Size: a a a

ClickHouse не тормозит

2020 July 02

YV

Yuri Velgosha in ClickHouse не тормозит
Рустам
Говорит:  "прекрати пожалуйста"
Memory limit (total) exceeded: would use 28.14 GiB ( attempt to allocate chunk of 4226457 bytes), maximum: 28.14 GiB
max_server_memory_usage_to_ram_ratio: 10  - вот это в конфиг надо добавить и рестартануть КХ.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Рустам
👆
Это не последний 20.4.
я бы пробовал 20.5.1.3833
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Yuri Velgosha
max_server_memory_usage_to_ram_ratio: 10  - вот это в конфиг надо добавить и рестартануть КХ.
да, тоже вариаент, но на 600 rps скорее всего сразу oom будет
источник

D

Dj in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
в логе выше написаны ошибки зк и что таблица переходит в ro
на одном из шардов был запущен
ALTER TABLE tableName MODIFY SETTING merge_with_ttl_timeout = 120
—-
после этого встали все инсерты, а сам запрос висит и не хочет отменятся...

в логе ошибок перед readonly mode нет, окромя фейлов по инсерту с toomanyparts (но это другое вроде)
источник

Р

Рустам in ClickHouse не тормозит
Yuri Velgosha
max_server_memory_usage_to_ram_ratio: 10  - вот это в конфиг надо добавить и рестартануть КХ.
А куда примерно или в любое место можно?
источник

Р

Рустам in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
Это не последний 20.4.
я бы пробовал 20.5.1.3833
То есть где то указано что проблема пофикшена в какой то версии??
источник

C

Combot in ClickHouse не тормозит
Total messages: 169930
источник

YV

Yuri Velgosha in ClickHouse не тормозит
Рустам
А куда примерно или в любое место можно?
Ну я обычно кладу в кустомный файл в /etc/clickhouse-server/conf.d/config.xml - КХ после рестарта моржует эти настройки со своим стандартным конфигом.
Типа вот такого:
источник

YV

Yuri Velgosha in ClickHouse не тормозит
<?xml version="1.0"?>
<yandex>
   <logger>
       <level>warning</level>
   </logger>

   <max_insert_block_size>4194304</max_insert_block_size>
   <merge_tree>
       <parts_to_delay_insert>1500</parts_to_delay_insert>
       <parts_to_throw_insert>3000</parts_to_throw_insert>
       <max_delay_to_insert>2</max_delay_to_insert>
   </merge_tree>

   <listen_host replace="1">::</listen_host>
   <max_server_memory_usage_to_ram_ratio replace="1">100</max_server_memory_usage_to_ram_ratio>

   <distributed_ddl replace="1">
       <path>/clickhouse/task_queue/ddl</path>
   </distributed_ddl>

</yandex>
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dj
на одном из шардов был запущен
ALTER TABLE tableName MODIFY SETTING merge_with_ttl_timeout = 120
—-
после этого встали все инсерты, а сам запрос висит и не хочет отменятся...

в логе ошибок перед readonly mode нет, окромя фейлов по инсерту с toomanyparts (но это другое вроде)
Я бы ребутил. Явно какой-то баг с deadlock
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Рустам
То есть где то указано что проблема пофикшена в какой то версии??
источник

DR

Dmitrii Raev in ClickHouse не тормозит
Dmitrii Raev
Добрый день, ребята, подскажите кто знает.. Клика падает при запросе к MV с сообщением
DB::ErrnoException. DB::ErrnoException: Allocator: Cannot realloc from 16.00 MiB to 0.00 B., errno: 2, strerror: No such file or directory.
Up!
источник

Р

Рустам in ClickHouse не тормозит
Я правильно понял что исправление 11 дней назад замерджили?
источник

D

Dj in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
Я бы ребутил. Явно какой-то баг с deadlock
ok.

по поводу ридонли, (на вообще другом шарде, что не висит)

есть много такого сначала:
2020.07.02 07:03:03.806758 [ 5701 ] {} <Error> SCHEMA.TABLENAME: DB::StorageReplicatedMergeTree::queueTask()::<lambda(DB::StorageReplicatedMer
geTree::LogEntryPtr&)>: Code: 84, e.displayText() = DB::Exception: Directory /datadisk/data/SCHEMA/TABLENAME/tmp_merge_20200701-4-0_1054_1069_
2/ already exists, Stack trace (when copying this message, always include the lines below):

потом такое
2020.07.02 08:27:52.940152 [ 5858 ] {} <Error> zkutil::EphemeralNodeHolder::~EphemeralNodeHolder(): Code: 999, e.displayText() = Coordination::Exception: Sess
ion expired (Session expired), Stack trace (when copying this message, always include the lines below):
на ЗК ноде внезапный всплеск CPU user time
что нибудь надо делать? (руками удалить чего нить?)
источник

Р

Рустам in ClickHouse не тормозит
Yuri Velgosha
Ну я обычно кладу в кустомный файл в /etc/clickhouse-server/conf.d/config.xml - КХ после рестарта моржует эти настройки со своим стандартным конфигом.
Типа вот такого:
Спасибо за помощь, попробую, но вроде не помогает с этой проблемой
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Рустам
Я правильно понял что исправление 11 дней назад замерджили?
Да
источник

Р

Рустам in ClickHouse не тормозит
Вроде есть стабильная версия от 25 июня, попробую поставить, спасибо.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dj
ok.

по поводу ридонли, (на вообще другом шарде, что не висит)

есть много такого сначала:
2020.07.02 07:03:03.806758 [ 5701 ] {} <Error> SCHEMA.TABLENAME: DB::StorageReplicatedMergeTree::queueTask()::<lambda(DB::StorageReplicatedMer
geTree::LogEntryPtr&)>: Code: 84, e.displayText() = DB::Exception: Directory /datadisk/data/SCHEMA/TABLENAME/tmp_merge_20200701-4-0_1054_1069_
2/ already exists, Stack trace (when copying this message, always include the lines below):

потом такое
2020.07.02 08:27:52.940152 [ 5858 ] {} <Error> zkutil::EphemeralNodeHolder::~EphemeralNodeHolder(): Code: 999, e.displayText() = Coordination::Exception: Sess
ion expired (Session expired), Stack trace (when copying this message, always include the lines below):
на ЗК ноде внезапный всплеск CPU user time
что нибудь надо делать? (руками удалить чего нить?)
А в зукипере есть ошибки в логах?
источник

AZ

Alexander Zaitsev in ClickHouse не тормозит
Рустам
Вроде есть стабильная версия от 25 июня, попробую поставить, спасибо.
Теги коммита: v20.6.1.3925-testing  v20.6.1.3923-testing v20.6.1.3911-testing v20.6.1.3903-testing v20.6.1.3894-testing v20.6.1.3887-testing v20.6.1.3873-testing v20.6.1.3853-testing
источник

AZ

Alexander Zaitsev in ClickHouse не тормозит
Так что в версиях нет пока
источник