Size: a a a

ClickHouse не тормозит

2021 February 18

S

Slach in ClickHouse не тормозит
Andrey
в таблице 400 миллионов строк и для каждой __row_hash уникальный
тогда фиг знает
возможно для того чтобы сделать финальный group by
надо все частичные group by сложить между собой и для этого тупо памяти не хватает
источник

A

Andrey in ClickHouse не тормозит
Да, действительно, HAVING на это не влияет
источник

S

Sharif in ClickHouse не тормозит
Dj

Локальная версия запроса в конечном итоге будет выполнена на каждом хосте кластера, даже если некоторые хосты в данный момент не доступны. Гарантируется упорядоченность выполнения запросов в рамках одного хоста.

https://clickhouse.tech/docs/ru/sql-reference/distributed-ddl/
только клиент будет ждать таймаута, но после запуска можно его прибить
то есть если просто проигнорировать таймаут недоступных хостов то можно дропнуть партицию, продолжить вставлять туда данные, и все будет ок после того как хост оживет?
источник

S

Slach in ClickHouse не тормозит
Andrey
Да, действительно, HAVING на это не влияет
ну в общем GROUP BY по очень кардинальному полю, это как тупо всю таблицу в память итогово грузить видимо
источник

DT

Dmitry Titov in ClickHouse не тормозит
Потенциально кажется что этого  можно было бы избежать, но видимо это будет еще медленее
источник

D

Dj in ClickHouse не тормозит
Sharif
то есть если просто проигнорировать таймаут недоступных хостов то можно дропнуть партицию, продолжить вставлять туда данные, и все будет ок после того как хост оживет?
да
источник

D

Dj in ClickHouse не тормозит
Kid
не подскажете, они не связываются, мб надо в новых ЗК сделать /clickhouse?
echo mntr | nc localhost 2181
на лидере, смотреть zk_followers zk_synced_followers     zk_pending_syncs        

если все ок, то  на всех нодах и проверить zk_znode_count  - должен совпадать
источник

K

Kid in ClickHouse не тормозит
Dj
echo mntr | nc localhost 2181
на лидере, смотреть zk_followers zk_synced_followers     zk_pending_syncs        

если все ок, то  на всех нодах и проверить zk_znode_count  - должен совпадать
через stat смотрю Node count на фоловерах совпадают, а на лидере нет
источник

RM

Roman Maksimov in ClickHouse не тормозит
Привет, нужна помощь с настройкой КХ версии 19.14.6.12 - Как разделить таблицы по разным физическим дискам
источник

D

Dj in ClickHouse не тормозит
Kid
через stat смотрю Node count на фоловерах совпадают, а на лидере нет
на лидере много, на фолловерах мало?
источник

D

Dj in ClickHouse не тормозит
Kid
через stat смотрю Node count на фоловерах совпадают, а на лидере нет
echo mntr | nc localhost 2181
на лидере, смотреть zk_followers zk_synced_followers     zk_pending_syncs
источник

K

Kid in ClickHouse не тормозит
Dj
на лидере много, на фолловерах мало?
да
источник

L

Lazoreth in ClickHouse не тормозит
Dj
MultiIf/if выполняет все ветки условий при запуске... так что да, будет тормозить при больших вложенностях
Понял, спасибо
источник

ВЕ

Веня Ерофеев... in ClickHouse не тормозит
ReplicatedReplacingMergeTree валится с ошибкой "Too many parts"
Правильное ли решение, сначала писать в таблицу типа Buffer?
Нужны какие-то особые настройки для буферной таблицы?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Веня Ерофеев
ReplicatedReplacingMergeTree валится с ошибкой "Too many parts"
Правильное ли решение, сначала писать в таблицу типа Buffer?
Нужны какие-то особые настройки для буферной таблицы?
Самое правильное решение это собирать вставки до кх, и вставлять батчами
источник

S

Slach in ClickHouse не тормозит
Веня Ерофеев
ReplicatedReplacingMergeTree валится с ошибкой "Too many parts"
Правильное ли решение, сначала писать в таблицу типа Buffer?
Нужны какие-то особые настройки для буферной таблицы?
Буферная таблица не гарантирует сохранность данных в буфере во время рестарта...
есть всякие штуки типа clickhouse-bulk \ chproxy \ kittenhouse
если можете копить TSV \ CSV и потом грузить батчем сами, то это лучше всего
источник

M

Mishanya in ClickHouse не тормозит
Dmitry Titov
Самое правильное решение это собирать вставки до кх, и вставлять батчами
я так понимаю, что человек вставляет слишком большой батч и из-за этого у него партов образуеттся, нет ?
источник

ВЕ

Веня Ерофеев... in ClickHouse не тормозит
Mishanya
я так понимаю, что человек вставляет слишком большой батч и из-за этого у него партов образуеттся, нет ?
Немнрго не так, батчей много и они небольшие.
источник

DT

Dmitry Titov in ClickHouse не тормозит
Mishanya
я так понимаю, что человек вставляет слишком большой батч и из-за этого у него партов образуеттся, нет ?
too many parts это наоборот, слишком много вставок (либо в 1 инсерте много партиций)
источник

ВЕ

Веня Ерофеев... in ClickHouse не тормозит
Придется на приложение переложить эту логику, спасибо всем
источник