Size: a a a

ClickHouse не тормозит

2021 February 20

R

Rus in ClickHouse не тормозит
Dmitriy Novikov
через MS протокло хотите?
Пока не знаю. Поэтому курс или чтиво для начала хотел получить
источник

IA

Ilia Ablamonov in ClickHouse не тормозит
Dj
тут проще перевставить парт чем копать, может баг какой-то, либо может быть большим изза адаптивной гранулярности и широкой колонки (убедитесь когда довстваится)
спасибо! довставилось во временную таблицу, индексы не распухли
источник

В

Виктор in ClickHouse не тормозит
Кто-то может помочь?
Пытаюсь сделать insert into distributed_a select * from distributed_b
Получаю нехватку памяти, но это слишком много
Code: 241. DB::Exception: Received from localhost:9000. DB::Exception: Received from <host>. DB::Exception: Memory limit (total) exceeded: would use 5.24 GiB (attempt to allocate chunk of 4219508 bytes), maximum: 5.24 GiB: While executing SinkToOutputStream.
источник

DT

Dmitry Titov in ClickHouse не тормозит
Виктор
Кто-то может помочь?
Пытаюсь сделать insert into distributed_a select * from distributed_b
Получаю нехватку памяти, но это слишком много
Code: 241. DB::Exception: Received from localhost:9000. DB::Exception: Received from <host>. DB::Exception: Memory limit (total) exceeded: would use 5.24 GiB (attempt to allocate chunk of 4219508 bytes), maximum: 5.24 GiB: While executing SinkToOutputStream.
У вас сколько памяти то?
источник

В

Виктор in ClickHouse не тормозит
6гб
источник

DT

Dmitry Titov in ClickHouse не тормозит
сколько памяти кх щас использует?
источник

В

Виктор in ClickHouse не тормозит
До этого сделал такой же insert select только с полями - прошло нормально
источник

DT

Dmitry Titov in ClickHouse не тормозит
Вы тюнили кх что бы его запустить с таким кол-вом памяти?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Dmitry Titov
сколько памяти кх щас использует?
system drop mark cache;
источник

EP

Evgen Pr in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
о чем вообще речь?
есть запрос
CREATE TABLE db.table_04 ON CLUSTER '{cluster}' (x UInt32) ENGINE = ReplicatedMergeTree('/clickhouse/tables/{shard}/{database}/table_04', '{replica}') ORDER BY x;
при выполнении этого запроса получаю такую ошибку
Code: 159, e.displayText() = DB::Exception: Watching task /clickhouse/task_queue/ddl/query-0000000009 is executing longer than distributed_ddl_task_timeout (=180) seconds. There are 2 unfinished hosts (0 of them are currently active), they are going to execute the query in background (version 20.3.21.2 (official build))
Если просто выполнить запрос не ON CLUSTER, а на каждой реплике, данные в таблицах реплицируются нормально, ZK работает. возможно это связано с тем, что CH на каждой реплике поднят в докере
https://stackoverflow.com/questions/64947277/clickhouse-create-database-on-cluster-ends-with-timeout
вот возможная проблема
источник

В

Виктор in ClickHouse не тормозит
Dmitry Titov
сколько памяти кх щас использует?
Во время этого инсерта 3.4гб судя по htop
источник

В

Виктор in ClickHouse не тормозит
Dmitry Titov
Вы тюнили кх что бы его запустить с таким кол-вом памяти?
Неа, где почитать?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Evgen Pr
есть запрос
CREATE TABLE db.table_04 ON CLUSTER '{cluster}' (x UInt32) ENGINE = ReplicatedMergeTree('/clickhouse/tables/{shard}/{database}/table_04', '{replica}') ORDER BY x;
при выполнении этого запроса получаю такую ошибку
Code: 159, e.displayText() = DB::Exception: Watching task /clickhouse/task_queue/ddl/query-0000000009 is executing longer than distributed_ddl_task_timeout (=180) seconds. There are 2 unfinished hosts (0 of them are currently active), they are going to execute the query in background (version 20.3.21.2 (official build))
Если просто выполнить запрос не ON CLUSTER, а на каждой реплике, данные в таблицах реплицируются нормально, ZK работает. возможно это связано с тем, что CH на каждой реплике поднят в докере
https://stackoverflow.com/questions/64947277/clickhouse-create-database-on-cluster-ends-with-timeout
вот возможная проблема
Скорее всего. Я много раз объяснял тут в чате что локальные кх ищут свои задания в зк сравнивая свои имена и айпи. В докере конечно внутри у них имена и айпи другие.
источник

DT

Dmitry Titov in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
например джойны не учитывают этих ограничений.

и я бы добавил

cat /etc/clickhouse-server/conf.d/marks_cache.xml
<?xml version="1.0"?>
<yandex>
   <mark_cache_size>256000000</mark_cache_size>
</yandex>
this
источник

DT

Dmitry Titov in ClickHouse не тормозит
Если таблицы широкие, то наверное нужно еще min_block_size уменьшить
источник

В

Виктор in ClickHouse не тормозит
свопа вообще нет, все на виртуалках
источник

В

Виктор in ClickHouse не тормозит
а какое дефолтное значение у mark_cache_size?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Виктор
свопа вообще нет, все на виртуалках
Версия кх? Скорее всего просто неправильно считает кх. И надо max_server..ratio в 2 или 3 поставить.


6 гиг это ужасно мало
источник

В

Виктор in ClickHouse не тормозит
Dmitry Titov
Если таблицы широкие, то наверное нужно еще min_block_size уменьшить
21 поле
источник

В

Виктор in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
Версия кх? Скорее всего просто неправильно считает кх. И надо max_server..ratio в 2 или 3 поставить.


6 гиг это ужасно мало
ClickHouse server version 21.1.2 revision 54443
источник