Size: a a a

ClickHouse не тормозит

2020 May 14

VR

Vladislav Ross in ClickHouse не тормозит
в error log смотреть про ошибки мержей?
источник

A

Andrey in ClickHouse не тормозит
Vladislav Ross
в error log смотреть про ошибки мержей?
Угу, да и в общем на предмет ошибок.
источник

VR

Vladislav Ross in ClickHouse не тормозит
Andrey
Угу, да и в общем на предмет ошибок.
спасибо
источник

R

RVR in ClickHouse не тормозит
Aleksandr Vasilev
Добрый день! Подскажите, а запросы optimize реплицируются? Достаточно запускать на одной реплике?
Ну в мануале референс:
OPTIMIZE TABLE [db.]name [ON CLUSTER cluster] [PARTITION partition | PARTITION ID 'partition_id'] [FINAL] [DEDUPLICATE]
Соответственно если указать ON CLUSTER то должно
источник

A

Andrey in ClickHouse не тормозит
Aleksandr Vasilev
Добрый день! Подскажите, а запросы optimize реплицируются? Достаточно запускать на одной реплике?
у altinity в докладе было вот так
источник

VR

Vladislav Ross in ClickHouse не тормозит
кстати тяжелый optimize и без ON CLUSTER иногда ошибки отдает
DB::NetException: Timeout exceeded while reading from socket ...

как будто он что-то ждал от соседа 300 секунд
этот момент не совсем понятен
источник

AV

Aleksandr Vasilev in ClickHouse не тормозит
Andrey
у altinity в докладе было вот так
Спасибо. Просто я гоняю optimize на каждой ноде отдельно и лезут WARNING такого плана: <Warning> mus4.src_merge_local (ReplicatedMergeTreePartCheckThread): Checking part 20200514_125248_125282_6

<Warning> mus4.src_merge_local (ReplicatedMergeTreePartCheckThread): Checking if anyone has a part covering 20200514_125248_125282_6.

<Warning> mus4.src_merge_local (ReplicatedMergeTreePartCheckThread): Found parts with the same min block and with the same max block as the missing part 20200514_125248_125

282_6. Hoping that it will eventually appear as a result of a merge.
источник

AV

Aleksandr Vasilev in ClickHouse не тормозит
так понимаю это связано как-то с одновременным запуском optimize
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
коллеги, такой вопрос
если я добавляю больше одного фаила конфигурации под config.d и в некоторых фаилах есть один и тот же сеттинг, в каком порядке они будут перекрывать друг друга?
источник

A

Andrey in ClickHouse не тормозит
Aleksandr Vasilev
так понимаю это связано как-то с одновременным запуском optimize
На самом деле не сложно проверить. Просто запустите на одном хосте и промониторьте количество партов на всех.
источник

M

Mikhail in ClickHouse не тормозит
Всем день!)
Пытаюсь уже какой день скопировать данные из старого кластера в новый, на определенной табличке clickhouse-copier падает и говорит не вижу экстернал словоря, при этом словарь подключен, если смотреть в самом клик хаусе. Ошибок по этому словарю в логах нету.
источник

M

Mikhail in ClickHouse не тормозит
Словарь в виде файла на хостах
источник

M

Mikhail in ClickHouse не тормозит
в csv
источник

S

Slach in ClickHouse не тормозит
https://play.clickhouse.tech

можете сделать пулл реквест для документации?
источник

D

Dmitry Koreckiy in ClickHouse не тормозит
Всем привет.
Как корректно в конфиг для словаря добавить новое поле из монги которые имеет путь ‘info.isHidden’ и тип Boolean?

<dictionary>
   <name>dict_name</name>

   <source>
       <mongodb>…</mongodb>>
   </source>
   <lifetime>
       <min>300</min>
       <max>360</max>
   </lifetime>

   <layout>
       <complex_key_hashed />
   </layout>

   <structure>
       <key>
           <attribute>
               <name>_id</name>
               <type>String</type>
               <is_object_id>true</is_object_id>
               <null_value></null_value>
           </attribute>
       </key>

       <attribute>
           <name>type</name>
           <type>String</type>
           <null_value></null_value>
       </attribute>
   </structure>
</dictionary>
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Aleksandr Vasilev
Добрый день! Подскажите, а запросы optimize реплицируются? Достаточно запускать на одной реплике?
Да
источник

F🚜

Felixoid 🚜🇩🇪... in ClickHouse не тормозит
Сталкивался ли кто-нибудь с подобным? Есть кластер 2 реплики х 4 шарда. Есть сервис, который запускает по определённым правилам OPTIMIZE FINAL PARTITION ID. Вот этот https://github.com/innogames/graphite-ch-optimizer
Параметры dsn tcp://localhost:9000?secure=false&debug=false&optimize_throw_if_noop=1&read_timeout=7200

Если сервис работает из одного ДЦ, то всё работает нормально. Если из другого, то гарантированно через 300 секунд ловится exception
[209] Timeout exceeded while reading from socket ([$replica_ipv6]:9000): while receiving packet from replica-name:9000 \n0. Poco::Exception::Exception(std::__1::......... stack trace
Я подозреваю, это может быть связано с тем, какая реплика в настоящий момент мастер.. Но в 4 случаях из 4 мастер - это хост в одном и том же ДЦ.

Как это можно залечить?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Vladislav Ross
здравствуйте, возможно кто-то сталкивался с такой проблемой
неожиданно (началось в воскресенье) на одной из реплик стало больше происходить мержей, чем на двух соседях с тем же данными
соответственно диск занят на 80-100%, тормозят select запросы
Реплики делаю  одинаковые мержи. Релика лидер их назначает через зукипер. Т.е. говорит начинаем мержить парты а и б выходной парт будет называться д.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Vladislav Ross
кстати тяжелый optimize и без ON CLUSTER иногда ошибки отдает
DB::NetException: Timeout exceeded while reading from socket ...

как будто он что-то ждал от соседа 300 секунд
этот момент не совсем понятен
Это про то что мерж шел дольше 300сек. На самом деле мерж не обрывается, это клиент сообщает что за 300сек ничего от сервера не получил.
источник

F🚜

Felixoid 🚜🇩🇪... in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
Это про то что мерж шел дольше 300сек. На самом деле мерж не обрывается, это клиент сообщает что за 300сек ничего от сервера не получил.
ровно та же ситуация, что и моя. Но как от этого избавиться?
источник