Size: a a a

ClickHouse не тормозит

2020 May 21

DC

Denny Crane (I don't... in ClickHouse не тормозит
Pavel Bulavin
Хорошо, я накладываю MV на distributed и создаю ее на всех нодах, не будет ли дублирования данных?
Таже могу я сделать distributed->MV->distributed?
откуда дублирование? MV это триггер на инсерт, MV не читает таблицы, и не делает селекты

>Таже могу я сделать distributed->MV->distributed?
да, можете. Иногда так делают чтобы записывать в MV шадрированное отличным от таблицы ключом. Но чаще всего это ненужный выстрел себе в колено.
источник

PB

Pavel Bulavin in ClickHouse не тормозит
Почему? Мне же результат тоже нужен шардированый по кластеру
источник

DT

Dmitry Titov in ClickHouse не тормозит
Pavel Bulavin
Почему? Мне же результат тоже нужен шардированый по кластеру
а кто мешает тогда поставить MV на ту таблицу на которую смотрит distributed
источник

SK

Serhii Kholodniuk in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
Т.е. можно сделать например 4 кластера C1(A), C2(B), C3(C), C4(A,B,C)
Запутался. Насколько я понимаю, нам нужно объединить ноды в кластер, что-б им удобнее было общаться. Зачем их на разные кластера разделять?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Serhii Kholodniuk
Запутался. Насколько я понимаю, нам нужно объединить ноды в кластер, что-б им удобнее было общаться. Зачем их на разные кластера разделять?
ноды КХ срать хотели на кластер
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
кластер нужен Distributed таблицам чтобы знать куда идти за таблицей
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
если таблица на сервере XXX
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
то на сервере YYY нужен кластер C111 в котором только XXX
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
и создав distriubted таблицу которая использует C111 можно обращаться к XXX
источник

PB

Pavel Bulavin in ClickHouse не тормозит
Dmitry Titov
а кто мешает тогда поставить MV на ту таблицу на которую смотрит distributed
У меня идет поток событий с кафки который пишется в distributed таблицу.
MV мне нужна для прометки событий с учетом предыдущего значения.
Если делать все локально я могу потерять значение которое влияет на прометку.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Pavel Bulavin
У меня идет поток событий с кафки который пишется в distributed таблицу.
MV мне нужна для прометки событий с учетом предыдущего значения.
Если делать все локально я могу потерять значение которое влияет на прометку.
это вообще невозможно, нельзя увидеть предыдущее значение. MV видит блок который вставили и больше НИЧЕГО
источник

DT

Dmitry Titov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
это вообще невозможно, нельзя увидеть предыдущее значение. MV видит блок который вставили и больше НИЧЕГО
возможно предыдущее значение в этом блоке?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dmitry Titov
возможно предыдущее значение в этом блоке?
нене они про предыдущее значение которое возможно вставили на другом сервере, поэтому им нужно Distributed
источник

PB

Pavel Bulavin in ClickHouse не тормозит
А, если есть забрать его join из таблицы со статусами
источник

PB

Pavel Bulavin in ClickHouse не тормозит
У меня так локально работает
источник

DT

Dmitry Titov in ClickHouse не тормозит
а, мг
источник

DT

Dmitry Titov in ClickHouse не тормозит
Pavel Bulavin
А, если есть забрать его join из таблицы со статусами
дороговато будет джойнить на каждую вставку
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Pavel Bulavin
А, если есть забрать его join из таблицы со статусами
тогда MV on distributed не нужен, у вас есть id 666 который вставили, вы его джойните с Distributed таблицей , и получаете предыдущее

это конечно не полетит, потому что джойн будет часа 3 работать на каждый инсерт и будет падать по памяти
источник

pk

papa karlo in ClickHouse не тормозит
если шардировать по этому же id, тогда джойны можно на шардах устраивать локально
источник

A

Anttoon in ClickHouse не тормозит
Добрый день
Подскажите пожалуйста как исправить ошибку при использовании clickhouse-copier

clickhouse-copier --config ./config.xml --task-path /cp-task.xml --base-dir ./clickhouse --log-level debug
Processing configuration file './config.xml'.
Logging debug to /home/hadoop/clickhouse_migrate/clickhouse/clickhouse-copier_20200521150650_27919/log.log
Logging errors to /home/hadoop/clickhouse_migrate/clickhouse/clickhouse-copier_20200521150650_27919/log.err.log
Logging debug to console
2020.05.21 15:06:50.504213 [ 27919 ] {} <Information> : Starting ClickHouse 20.3.8.53 with revision 54433
2020.05.21 15:06:50.504381 [ 27919 ] {} <Information> Application: Starting clickhouse-copier (id 20200521150650_27919, host_id dev%2Dmarketvision#20200521150650_27919, path /home/hadoop/clickhouse_migrate/clickhouse/clickhouse-copier_20200521150650_27919, revision 54433)
2020.05.21 15:06:50.515828 [ 27919 ] {} <Debug> ClusterCopier: Loading description, zxid=0
2020.05.21 15:06:50.518932 [ 27919 ] {} <Debug> ClusterCopier: Will process 1 table tasks
2020.05.21 15:06:50.546513 [ 27919 ] {} <Information> ClusterCopier: Process table task destination_cluster.mv_db.test with 1 shards, 1 of them are local ones
2020.05.21 15:06:50.546824 [ 27919 ] {} <Debug> ClusterCopier: Waiting for 1 setup jobs
2020.05.21 15:06:50.547176 [ 27925 ] {} <Information> ClusterCopier: Discover partitions of shard N1 (having a replica 127.0.0.1:8123, pull table test_db.test of cluster source_cluster)
2020.05.21 15:06:50.554103 [ 27925 ] {} <Warning> ConnectionPoolWithFailover: Connection failed at try №1, reason: Code: 210, e.displayText() = DB::NetException: SSL Exception: error:1400010B:SSL routines::wrong version number (127.0.0.1:8123) (version 20.3.8.53 (official build))
2020.05.21 15:06:50.617287 [ 27925 ] {} <Error> ClusterCopier: Will retry: Code: 279, e.displayText() = DB::NetException: All connection tries failed. Log:

Code: 210, e.displayText() = DB::NetException: SSL Exception: error:1400010B:SSL routines::wrong version number (127.0.0.1:8123) (version 20.3.8.53 (official build))

, Stack trace (when copying this message, always include the lines below):
источник