Size: a a a

ClickHouse не тормозит

2020 September 08

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Yury Yurochko
привет!
есть ли простой способ перелить данные в матвьюху, если таблица под ней явно создана?
populate при этом юзать не советуют, insert select падает по памяти (видимо он собирает какую-то большую пачку внутри), а делать еще одну копию исходной таблицы, чтобы лить в нее, дороговато из-за места на серваке
Так просто создайте view c to
Я только так и делаю.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Mikhail
привет, подскажите плз -  создали view, которая смотрит в таблицу с 1.5kk записей, создалась табличка .inner.viewname,  в которой стабильно ~1.5k inactive parts, насколько это нормально и если нет, то как на это можно повлиять?
Да. Mv хранит свои данные в inner  таблице.
Inactive парты удаляются через 8 мин.
источник

M

Mikhail in ClickHouse не тормозит
а что при рестарте будет, кх будет перечитывать .inner парты?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Mikhail
а что при рестарте будет, кх будет перечитывать .inner парты?
Да. При чем тут это. Это обычная таблица
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Yury Yurochko
ну да, мы делаем аналогично, думалось, можно проще
Конечно можно в 1000 раз проще
источник

M

Mikhail in ClickHouse не тормозит
я помню печальный опыт для обычной таблицы, когда набралось много inactive parts и кх стартовал несколько часов, поэтому мониторю это.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Mikhail
я помню печальный опыт для обычной таблицы, когда набралось много inactive parts и кх стартовал несколько часов, поэтому мониторю это.
ну 1.5к не так много. В общем то что это MV дело вообще никак не меняет. Это обычная таблица, ее парты точно также зависят от partition by и кол-ва инсертов
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Т.е. если вы ошиблись и написали чушь в partition by , MV не виноват
источник

YY

Yury Yurochko in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
Так просто создайте view c to
Я только так и делаю.
Не понял, я так и создаю, как это влияет на переливку данных? Оно же не переливает данные при создании матвьюхи из сорс-таблицы
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Yury Yurochko
Не понял, я так и создаю, как это влияет на переливку данных? Оно же не переливает данные при создании матвьюхи из сорс-таблицы
чего-то я не понял, что у вас есть и что вы создаете.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Yury Yurochko
Не понял, я так и создаю, как это влияет на переливку данных? Оно же не переливает данные при создании матвьюхи из сорс-таблицы
вот пример как пересчитать огромную таблицу через null

https://gist.github.com/den-crane/f7382cd4f1f859ff6ac46afe7dc9925a
источник

YY

Yury Yurochko in ClickHouse не тормозит
да, делаю все то, что вы привели с гисте, только без особого знания Engine=Null. то что нужно, спасибо!
источник

RK

Ruslan Kondratyev in ClickHouse не тормозит
Товарищи, приветствую. Кто может подсказать, проблема увеличения времени селекта порций данных (пагиация через limit x,y). Чем больше селектов делаю, тем больше становится время селекта. Таблица имеет order by по двум колонкам. Есть у когонибудь такие пробелемы? Должно ли вообще расти время или это не нормально?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Ruslan Kondratyev
Товарищи, приветствую. Кто может подсказать, проблема увеличения времени селекта порций данных (пагиация через limit x,y). Чем больше селектов делаю, тем больше становится время селекта. Таблица имеет order by по двум колонкам. Есть у когонибудь такие пробелемы? Должно ли вообще расти время или это не нормально?
должно расти. Тоже самое в mysql / oracle /pg, чуда нет
источник

RK

Ruslan Kondratyev in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
должно расти. Тоже самое в mysql / oracle /pg, чуда нет
а почему растет, клик вроде как хорошо заточен на чтение...
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Ruslan Kondratyev
а почему растет, клик вроде как хорошо заточен на чтение...
в каком смысле почему? это же очевидно,  надо же сдеалать skip миллиардам записей в конце пайплайна
источник

RK

Ruslan Kondratyev in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
в каком смысле почему? это же очевидно,  надо же сдеалать skip миллиардам записей в конце пайплайна
ага, ладно, спасибо
источник

G

GithubReleases in ClickHouse не тормозит
ClickHouse/ClickHouse tagged: v20.8.2.3-stable
Link: https://github.com/ClickHouse/ClickHouse/releases/tag/v20.8.2.3-stable
Release notes:
v20.8.2.3-stable
источник

D

Dj in ClickHouse не тормозит
Ruslan Kondratyev
Товарищи, приветствую. Кто может подсказать, проблема увеличения времени селекта порций данных (пагиация через limit x,y). Чем больше селектов делаю, тем больше становится время селекта. Таблица имеет order by по двум колонкам. Есть у когонибудь такие пробелемы? Должно ли вообще расти время или это не нормально?
если запрос возвращающий грид тяжелый, можете вставить во временную таблицу и с неё в UI показывать. а так, вариантов мало
источник

VL

Vladimir Litman in ClickHouse не тормозит
Добрый день! Ищу крутого специалиста поднастроить наш кликхауc. Можем договориться с оплатой позадачно или почасово. Жду в лс!
источник