Size: a a a

ClickHouse не тормозит

2020 June 09

DC

Denny Crane (I don't... in ClickHouse не тормозит
Oleksii Mylotskyi
20.4.3.16 последняя вроде была.
20.4.4.18 последняя
источник

Б

Борис in ClickHouse не тормозит
Привет!
Мне нужно materialized view.
Проблема в том, что данные прилетающие в таблицу могут содержать время в прошлом(-10/15 минут).
Соответственно если в mw я считаю quantileTDigest по какому то столбцу и временному интервалу - строки дублируются.
Как можно поступить в этом случае?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Борис
Привет!
Мне нужно materialized view.
Проблема в том, что данные прилетающие в таблицу могут содержать время в прошлом(-10/15 минут).
Соответственно если в mw я считаю quantileTDigest по какому то столбцу и временному интервалу - строки дублируются.
Как можно поступить в этом случае?
MV это триггер на инсерт, оно не читает исходную таблицу

теоритически у вас quantileTDigest со стейтом должны быть за период какой-то и строки должны схлопнутся, и это вообще не должно влиять, поэтому странно

quantileTDigestState у вас ?
источник

Б

Борис in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
MV это триггер на инсерт, оно не читает исходную таблицу

теоритически у вас quantileTDigest со стейтом должны быть за период какой-то и строки должны схлопнутся, и это вообще не должно влиять, поэтому странно

quantileTDigestState у вас ?
верно, да. но если в одном инсерте пришли данные за 2020-06-09 00:00:00, потом была ещё пачка вставок, а потом снова 2020-06-09 00:00:00
будут дубли, верно?
источник

Б

Борис in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
MV это триггер на инсерт, оно не читает исходную таблицу

теоритически у вас quantileTDigest со стейтом должны быть за период какой-то и строки должны схлопнутся, и это вообще не должно влиять, поэтому странно

quantileTDigestState у вас ?
нет, без State
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Борис
нет, без State
ну тогда все бессмысленно, quantileTDigestState должен быть
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Борис
верно, да. но если в одном инсерте пришли данные за 2020-06-09 00:00:00, потом была ещё пачка вставок, а потом снова 2020-06-09 00:00:00
будут дубли, верно?
дубли? Таблицу MV не читает, и то что дубли схлопываете в таблице или в select-е который в MV не знает, это все зря
источник

Б

Борис in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
дубли? Таблицу MV не читает, и то что дубли схлопываете в таблице или в select-е который в MV не знает, это все зря
quantileTDigestState + quantileTDigestMerge спасут, верно я понимаю?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Борис
quantileTDigestState + quantileTDigestMerge спасут, верно я понимаю?
ну вероятно
источник

Б

Борис in ClickHouse не тормозит
спасибо )
источник

NN

Nick Nizovtsev in ClickHouse не тормозит
После перезапуска кликхауса и зукипера в докер стэке при попытке вставки в них данных через clickhouse_bulk стал получать DB::Exception: Table is in readonly mode, подскажите пожалуйста чем лечится?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Nick Nizovtsev
После перезапуска кликхауса и зукипера в докер стэке при попытке вставки в них данных через clickhouse_bulk стал получать DB::Exception: Table is in readonly mode, подскажите пожалуйста чем лечится?
у таблицы движок репликатед?
источник

NN

Nick Nizovtsev in ClickHouse не тормозит
по запросу SELECT *  FROM system.replicas where is_readonly = 1 выдает на таблицах Code: 999, e.displayText() = Coordination::Exception: No node, path: /clickhouse/tables/1/table_name/log
источник

NN

Nick Nizovtsev in ClickHouse не тормозит
да
источник

DT

Dmitry Titov in ClickHouse не тормозит
Nick Nizovtsev
по запросу SELECT *  FROM system.replicas where is_readonly = 1 выдает на таблицах Code: 999, e.displayText() = Coordination::Exception: No node, path: /clickhouse/tables/1/table_name/log
ты volume для zookeeper монтировал?
источник

NN

Nick Nizovtsev in ClickHouse не тормозит
это делается вручную после перезапуска?
источник

NN

Nick Nizovtsev in ClickHouse не тормозит
конфиги вроде не менял
источник

DT

Dmitry Titov in ClickHouse не тормозит
zookeeper это тоже бд, и если она в докере и ты ее перезапускаешь, то данные очевидным образом теряются
источник

NN

Nick Nizovtsev in ClickHouse не тормозит
есть под рукой ссылка как это сделать?
источник

DT

Dmitry Titov in ClickHouse не тормозит
это надо искать, как правильным образом запускать zookeeper в докере.
Восстановить работоспособность можешь по гайду из доки
https://clickhouse.tech/docs/en/engines/table-engines/mergetree-family/replication/#recovery-when-metadata-in-the-zookeeper-cluster-is-lost-or-damaged
источник