Size: a a a

ClickHouse не тормозит

2021 February 22

DC

Denny Crane [not a Y... in ClickHouse не тормозит
может и flush не нужен
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
flush ничего не делает такого, оно и само пропагейтится если может
источник

DS

Dmitry Samoylov in ClickHouse не тормозит
А какой тогда best practice для масштабирования, одна нода одна задача (либо шард, либо реплика) ?
источник

AK

Andrew Kochen in ClickHouse не тормозит
Кто-нибудь может подсказать, в каком формате пишутся access-файлы?
roles.list, users.list, quotas.list и т.д.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Andrew Kochen
Кто-нибудь может подсказать, в каком формате пишутся access-файлы?
roles.list, users.list, quotas.list и т.д.
зачем? они для КХ, они не для людей
источник

AK

Andrew Kochen in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
зачем? они для КХ, они не для людей
Плохая идея их ручками редактировать?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Andrew Kochen
Плохая идея их ручками редактировать?
там записано
имяпользователяuuid
имяролиuuid

в файлах /var/lib/clickhouse/access/95401b99-f947-1ced-813c-471c5044c29b.sql
хранятся сами sql
источник

AK

Andrew Kochen in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
там записано
имяпользователяuuid
имяролиuuid

в файлах /var/lib/clickhouse/access/95401b99-f947-1ced-813c-471c5044c29b.sql
хранятся сами sql
Это я видел, но разделитель между имяпользователяuuid  - управляющий символ, зависящий от длины имяпользователя
Вот подумал, может, это стандартный формат какой-то
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
предполагается что их редактирует только КХ, естественно он их не перечитывает
источник

AK

Andrew Kochen in ClickHouse не тормозит
при перезапуске перечитывает)
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
скорее всего в первом байте хранится длина имени пользователя
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
в leb128
источник

PL

Piotr Liakhavets in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
flush ничего не делает такого, оно и само пропагейтится если может
ну если я правильно понимаю он должен мне вернуть управление в момент когда все что выставлено в очередь на момент начала выполнения flush выполнено (или я фантазёр?)

в случае если я создам дистрибьютед поверх system.distribution_queue на интересующем кластере - я могу смотреть за нужной таблицей только есть ли очередь в моменте, т.е. в теории (если у меня сеть на одной из машин просела и в очередь накидыватся с той же скоростью как и разгребается) - я могу не дождаться having sum(data_files) = 0 в рамках окошка времени
источник

D

Dj in ClickHouse не тормозит
Dmitry Samoylov
А какой тогда best practice для масштабирования, одна нода одна задача (либо шард, либо реплика) ?
одна нода/контейнер/вм - один инстанс КХ - и это не для масштабирования, а для эксплуатации и избежания непонятных проблем
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Piotr Liakhavets
ну если я правильно понимаю он должен мне вернуть управление в момент когда все что выставлено в очередь на момент начала выполнения flush выполнено (или я фантазёр?)

в случае если я создам дистрибьютед поверх system.distribution_queue на интересующем кластере - я могу смотреть за нужной таблицей только есть ли очередь в моменте, т.е. в теории (если у меня сеть на одной из машин просела и в очередь накидыватся с той же скоростью как и разгребается) - я могу не дождаться having sum(data_files) = 0 в рамках окошка времени
>ну если я правильно понимаю он должен мне вернуть управление в
> момент когда все что выставлено в очередь на момент начала выполнения flush выполнено (или я фантазёр?)
да, так и работает

понятно. Не будет у вас счастья
источник

PL

Piotr Liakhavets in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
>ну если я правильно понимаю он должен мне вернуть управление в
> момент когда все что выставлено в очередь на момент начала выполнения flush выполнено (или я фантазёр?)
да, так и работает

понятно. Не будет у вас счастья
понял, спасибо, придется обходить стадо
источник

А

Антон 😎 in ClickHouse не тормозит
Ребят подскажите пожалуйста, для передачи данных в clickhouse планирую собирать информацию с помощью nodejs, планировал использовать pusub firebase functions но там таймаут на 9 минут максимум, это значит что я не могу выполнять сбор данных более 9 минут через crontab, кто знает какое-нибудь решение облачного сервиса? Так чтобы не заботиться об инфраструктуре и сразу начать кодить
источник

D

Dmitry Koreckiy in ClickHouse не тормозит
Антон 😎
Ребят подскажите пожалуйста, для передачи данных в clickhouse планирую собирать информацию с помощью nodejs, планировал использовать pusub firebase functions но там таймаут на 9 минут максимум, это значит что я не могу выполнять сбор данных более 9 минут через crontab, кто знает какое-нибудь решение облачного сервиса? Так чтобы не заботиться об инфраструктуре и сразу начать кодить
кафка неплохо заходит
источник

D

Dmitry Koreckiy in ClickHouse не тормозит
нодой пишете в кафку а из кафки Kafka движок в кх читает
источник

D

Dmitry Koreckiy in ClickHouse не тормозит
источник