Size: a a a

ClickHouse не тормозит

2021 February 22

K

Konstantin in ClickHouse не тормозит
Slach
а что конкретно вы хотите чтобы про это написали? ;)
Решение нормальное, Uber его на своих данных вполне успешно внедрил
ну, обычно кто-то начинает "да они идиоты, надо было ... фичу кликхауса использовать". Совет бредовый, но так я узнаю о том, как можно использовать новые фичи, на которые я раньше не обращал внимания :D
источник

S

Slach in ClickHouse не тормозит
Konstantin
ну, обычно кто-то начинает "да они идиоты, надо было ... фичу кликхауса использовать". Совет бредовый, но так я узнаю о том, как можно использовать новые фичи, на которые я раньше не обращал внимания :D
=) да они отличные ребята,  готовили статью год, потому что у них внутренний бизнес процесс ревью статей просто пипец как усложнен =) и так то они прототип сделали еще  год назад
https://github.com/ClickHouse/clickhouse-presentations/raw/master/meetup40/uber.pdf
источник

K

Konstantin in ClickHouse не тормозит
а вот, кстати, я помню, раньше merge() и ENGINE=Merge работали гораздо медленнее, чем если того же результата добиваться, раскладывая таблицы в разные DB, описывая локальный кластер и используя remote или Distributed. Это изменилось?
источник

K

Konstantin in ClickHouse не тормозит
жаль QueryBridge не выложили, вот был бы разворот в истории с лицензией ELK :D
источник

D

Dj in ClickHouse не тормозит
Konstantin
ну, обычно кто-то начинает "да они идиоты, надо было ... фичу кликхауса использовать". Совет бредовый, но так я узнаю о том, как можно использовать новые фичи, на которые я раньше не обращал внимания :D
ну, на самом деле они могли дальше совершенно спокойно пользоватся эластиком, просто им хотелось что-то поделать а копать вглубь не хотели, вот и копнули вширь =)
завтра новая лесопилочка скажет бррр на каком-то неиндексированном случае и они начнут держать и КХ и эластик...
источник

N

Nick in ClickHouse не тормозит
Привет, друзья, подскажите насколько Clickhouse сильно нагружает Zookeeper?
У нас есть инсталляция зукипера, которую использует очень критичная кафка
Насколько сильно ClickHouse может загрузить этот зукипер и повлиять на кафку?
источник

N

Nick in ClickHouse не тормозит
Спасибо!
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Ребят, такая проблема.
Кластер на 2 шарда, 2 реплики (4 ноды всего)
Есть Кафка табличка, в которой подключено около 20 топиков.
Каждый топик через свою матвью пишется в соответвующую табличку.
Сегодня в эти таблички перестали пиисаться данные. В кафке растет лаг.
Ошибок не сыпет вообще. Но если рестартовать кликхаус — получаю по каждой таблице, в которые идет запись из кафка-таблички такую вот ошибку:

Couldn't start replication: Replica appears to be already /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 active

If you're sure it's not, try again in a minute or remove znode /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 manually


Пробовал для одной из таблиц удалять is_active из зукипера - результатов не дало.
Подскажите, куда дальше можно копать?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Vladimir Bunchuk
Ребят, такая проблема.
Кластер на 2 шарда, 2 реплики (4 ноды всего)
Есть Кафка табличка, в которой подключено около 20 топиков.
Каждый топик через свою матвью пишется в соответвующую табличку.
Сегодня в эти таблички перестали пиисаться данные. В кафке растет лаг.
Ошибок не сыпет вообще. Но если рестартовать кликхаус — получаю по каждой таблице, в которые идет запись из кафка-таблички такую вот ошибку:

Couldn't start replication: Replica appears to be already /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 active

If you're sure it's not, try again in a minute or remove znode /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 manually


Пробовал для одной из таблиц удалять is_active из зукипера - результатов не дало.
Подскажите, куда дальше можно копать?
If you're sure it's not, try again in a minute or remove znode /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 manually
Должно само пофиксится же, вы пробовали ждать?
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Dmitry Titov
If you're sure it's not, try again in a minute or remove znode /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 manually
Должно само пофиксится же, вы пробовали ждать?
часа 2 уже
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Dmitry Titov
If you're sure it's not, try again in a minute or remove znode /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 manually
Должно само пофиксится же, вы пробовали ждать?
Еще такую ошибку только что увидел

2021.02.22 12:22:26.044182 [ 22496 ] {} <Warning> s_usergeo_state_id_shard (ReplicatedMergeTreeRestartingThread): ZooKeeper session has expired. Switching to a new session.
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
но запись не возобновляется
источник

DT

Dmitry Titov in ClickHouse не тормозит
Все макросы правильны выставлены?
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Dmitry Titov
Все макросы правильны выставлены?
да
кластер уже полгода где-то крутится
источник

DT

Dmitry Titov in ClickHouse не тормозит
Какая версия кх?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Vladimir Bunchuk
Ребят, такая проблема.
Кластер на 2 шарда, 2 реплики (4 ноды всего)
Есть Кафка табличка, в которой подключено около 20 топиков.
Каждый топик через свою матвью пишется в соответвующую табличку.
Сегодня в эти таблички перестали пиисаться данные. В кафке растет лаг.
Ошибок не сыпет вообще. Но если рестартовать кликхаус — получаю по каждой таблице, в которые идет запись из кафка-таблички такую вот ошибку:

Couldn't start replication: Replica appears to be already /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 active

If you're sure it's not, try again in a minute or remove znode /clickhouse/tables/0/s_usergeo_state_id/replicas/srv2704 manually


Пробовал для одной из таблиц удалять is_active из зукипера - результатов не дало.
Подскажите, куда дальше можно копать?
Логирование в кх trace?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Татьяна Исекеева
привет)
помогите, пожалуйста, с запросом
у меня есть таблица вида:
id1 - type1- datetime1
id1 - type2 - datetime2
id1 - type3 - datetime3.

я хочу получить в результате:
id1 - datetime1 - datetime2 -  datetime3
groupArray
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
Логирование в кх trace?
да
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Dmitry Samoylov
@den_crane Объясните, пожалуйста, почему это плохо? Если будет только 1 шард, то не будут использоваться вычислительные мощности 2-го сервера. Или я не правильно расссуждаю?
не вписывается в дизайн и не поддерживается.
Потому что очень сложно сопровождать и не работает куча всего или работает неправильно.
Макросы невозможно использовать.
Дистрибьютид джойны не работают.
Зачастую запросы будут выполнятся одной нодой для обоих шардов.
Производительность -- кх тормозит.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Konstantin
жаль QueryBridge не выложили, вот был бы разворот в истории с лицензией ELK :D
кмк этот бридж глубоко зависит от их схемы с динамическими полями. Его было бы невозможно использовать
источник