Size: a a a

ClickHouse не тормозит

2020 September 18

K

Kid in ClickHouse не тормозит
Dj
недостаточно минералов информации... но это не суть, можете join делать, проблемы не вижу
левая таблица большая, справа два справочника.
к первому по двум столбцам джойн(по дате и  ид), ко второму по ид.
Нужно это для того, чтобы если из первого справочника совпадений не найдено, то во втором точно будут. Это все для coalesce в select
источник

l

lnuynxa in ClickHouse не тормозит
Kid
левая таблица большая, справа два справочника.
к первому по двум столбцам джойн(по дате и  ид), ко второму по ид.
Нужно это для того, чтобы если из первого справочника совпадений не найдено, то во втором точно будут. Это все для coalesce в select
Нужно избегать попаданий больших таблиц в правую часть, должно быть наоборот-> самая жирная таблица слева
источник

l

lnuynxa in ClickHouse не тормозит
Правые таблицы поднимаются в оперативную память просто
источник

K

Kid in ClickHouse не тормозит
lnuynxa
Нужно избегать попаданий больших таблиц в правую часть, должно быть наоборот-> самая жирная таблица слева
сори, сча исправлю сообщение
источник

K

Kid in ClickHouse не тормозит
lnuynxa
Правые таблицы поднимаются в оперативную память просто
исправил
источник

D

Dj in ClickHouse не тормозит
Kid
левая таблица большая, справа два справочника.
к первому по двум столбцам джойн(по дате и  ид), ко второму по ид.
Нужно это для того, чтобы если из первого справочника совпадений не найдено, то во втором точно будут. Это все для coalesce в select
ну попробуйте как я описал, должно сработать без проблем.

select tableft join (select t1 join t2 on t1.id=t2.id)
источник

K

Kid in ClickHouse не тормозит
Dj
ну попробуйте как я описал, должно сработать без проблем.

select tableft join (select t1 join t2 on t1.id=t2.id)
спс, сча пробую
источник

l

lnuynxa in ClickHouse не тормозит
Kid
левая таблица большая, справа два справочника.
к первому по двум столбцам джойн(по дате и  ид), ко второму по ид.
Нужно это для того, чтобы если из первого справочника совпадений не найдено, то во втором точно будут. Это все для coalesce в select
Можно второй джоин(300 строк где) заменить на dictGet еще
источник

l

lnuynxa in ClickHouse не тормозит
но dictGet запросто сможет выжрать все цпу)
источник

K

Kid in ClickHouse не тормозит
А так всегда в КХ, один джойн ок, два тормозят?
источник

D

Dj in ClickHouse не тормозит
Kid
А так всегда в КХ, один джойн ок, два тормозят?
нет, каждый третий раз
источник

D

Dj in ClickHouse не тормозит
lnuynxa
но dictGet запросто сможет выжрать все цпу)
лучше день потерять, потом за пять минут долететь
да не должно сильно хуже хешджоина жрать, не?
источник

l

lnuynxa in ClickHouse не тормозит
Dj
лучше день потерять, потом за пять минут долететь
да не должно сильно хуже хешджоина жрать, не?
Ну у меня было что то вроде
два джоина жрут 15 цпу, скорость запроса x
джоин + dictGet(или даже джоин об Dictionary таблицу) жрет 32 цпу, скорость запроса 1.4x
источник

l

lnuynxa in ClickHouse не тормозит
Но у меня словари были сильно большими(миллионы строк), возможно в этом еще дело
источник

D

Dj in ClickHouse не тормозит
lnuynxa
Ну у меня было что то вроде
два джоина жрут 15 цпу, скорость запроса x
джоин + dictGet(или даже джоин об Dictionary таблицу) жрет 32 цпу, скорость запроса 1.4x
как такое вообще может быть то? у меня КХ независимо от всего жрет на 100% столько сколько в max_threads (при отсутствии IO bottleneck)... или вы среднее высчитали по интервалу?
источник

l

lnuynxa in ClickHouse не тормозит
Dj
как такое вообще может быть то? у меня КХ независимо от всего жрет на 100% столько сколько в max_threads (при отсутствии IO bottleneck)... или вы среднее высчитали по интервалу?
multiple join работают немного по особенному, пока внутренний джоин не закончится внешний не будет работать как я понял.
https://github.com/ClickHouse/ClickHouse/issues/13862
источник

D

Dj in ClickHouse не тормозит
так в вашем примере 1 джоин против диктГет - не?
источник

l

lnuynxa in ClickHouse не тормозит
Dj
так в вашем примере 1 джоин против диктГет - не?
два джоина против dictGet+ джоин
источник

D

Dj in ClickHouse не тормозит
а, ну тогда спасибо за информацию.
записал
источник

D

Dj in ClickHouse не тормозит
но все равно на то он и ЦПУ, чтобы жрать его...
источник