Size: a a a

ClickHouse не тормозит

2021 January 26

AR

Andrii R in ClickHouse не тормозит
KiLEX 萊赫
писал на го консьюмер для RabbitMQ чтобы бачами скидывать сообщения в клик. (на тот момент в кх движка для реббита еще не было)
ничего сложного, работает на пределе производительности реббита.
Уверен для пульсара с достаточным опытом его эксплуатации - не будет никаких проблем написать подобную прослойку
Спасибо! Идея с самописным консьюмером у меня как запасной вариант пока что
источник

БК

Бећир Крстивоје... in ClickHouse не тормозит
KiLEX 萊赫
писал на го консьюмер для RabbitMQ чтобы бачами скидывать сообщения в клик. (на тот момент в кх движка для реббита еще не было)
ничего сложного, работает на пределе производительности реббита.
Уверен для пульсара с достаточным опытом его эксплуатации - не будет никаких проблем написать подобную прослойку
А вы в один шард вставляли или в несколько? Если в несколько, то где логику разделения реализовывали? Или вы в distributed льёте?
источник

K

KiLEX 萊赫 in ClickHouse не тормозит
Бећир Крстивоје
А вы в один шард вставляли или в несколько? Если в несколько, то где логику разделения реализовывали? Или вы в distributed льёте?
лил в сторону одного хоста, просто в памяти набирал батч до размера prefetch count и скидывал в клик по таймеру или же по достижению длины prefetch count.
если бы была потребность шардировать скорее всего я бы сначала расшардировал в отделные очереди в реббите (тоже самописным консьюмером, или на крайняк локтсешом) и лил бы каджую очередь в свою шарду
источник

БК

Бећир Крстивоје... in ClickHouse не тормозит
KiLEX 萊赫
лил в сторону одного хоста, просто в памяти набирал батч до размера prefetch count и скидывал в клик по таймеру или же по достижению длины prefetch count.
если бы была потребность шардировать скорее всего я бы сначала расшардировал в отделные очереди в реббите (тоже самописным консьюмером, или на крайняк локтсешом) и лил бы каджую очередь в свою шарду
спасибо. расшардировать на уровне очереди звучит весьма логично
источник

K

KiLEX 萊赫 in ClickHouse не тормозит
если потеря данных не критична - рекомендую логстеш, очень быстро работает, умеет шардить простейшими логиками
источник

DS

Danil Semenov in ClickHouse не тормозит
Всем привет, вопрос по мат. представлениям: я правильно понимаю что если создать мат. представление и его использовать в запросе другого мат. представления то это работать не будет?
источник

PR

Paul Reshetnikov in ClickHouse не тормозит
@den_crane тут выше спаммеры активизировались...
источник

D

Denis in ClickHouse не тормозит
Что же жених такое сделал? Неправильно выбрал order by??
источник

ТЛ

Тимофей Лавник... in ClickHouse не тормозит
Написано про неверность. Наверное, другая субд просто.
источник

D

Denisio in ClickHouse не тормозит
про LowCardinality забыл
источник

AS

Aleksey Studnev ( bi... in ClickHouse не тормозит
LEFT JOIN случился
источник

M

Mishanya in ClickHouse не тормозит
union будет или не как думаете ?
источник

G

Gleb in ClickHouse не тормозит
Сейчас 2 ночи в Канаде
источник

VN

Viacheslav Nefedov in ClickHouse не тормозит
Andrii R
Интересно какой у вас будет с ним опыт, мне в ближайшее время предстоит подружить КХ с пульсаром и немного смущает отсутствие хоть каких-то отзывов об этом - или все хорошо, или так почти никто не делал. Что меня смущает - в конфигурации есть batch size, но нет никакого таймаута, и как бы он не начал писать один батч за другим при интенсивном потоке данных
Да вот тоже кажется что проще не коммитить в код КХ, а написать обмен на функциях пульсара или на airflow
источник

DP

Dmitry Polyakov in ClickHouse не тормозит
Denis
Что же жених такое сделал? Неправильно выбрал order by??
Использовал два зукипера вместо трёх
источник

AK

Alexey Kupershtokh in ClickHouse не тормозит
Dmitry Polyakov
Использовал два зукипера вместо трёх
задачка такая есть - про две резинки и трех девушек, болеющих разными болезнями
источник

OG

Oleg Gavrilov in ClickHouse не тормозит
Denis
Что же жених такое сделал? Неправильно выбрал order by??
заорал аж, спасибо
источник

СС

Семен Скурихин... in ClickHouse не тормозит
Привет, кто знает за Yandex Managed Service for ClickHouse, не получается настроить подключение к БД через DBeaver, чет второй день уже туплю(
источник

СС

Семен Скурихин... in ClickHouse не тормозит
источник

СС

Семен Скурихин... in ClickHouse не тормозит
источник