Size: a a a

ClickHouse не тормозит

2020 June 27

DA

Dima Admin in ClickHouse не тормозит
JTaky
Хочу использовать кликхаус для заббикс, но возник вопрос, если в кх возможность удалять старые запись старше n-дня?
https://clickhouse.tech/docs/en/engines/table-engines/mergetree-family/mergetree/#mergetree-table-ttl

можно попробовать чистить старые записи оптимизировав схему

https://clickhouse.tech/docs/en/sql-reference/statements/alter/#alter-mutations

можно кроном alter table zbx.zbx delete where ...
источник

AK

Anton Khokhrin in ClickHouse не тормозит
JTaky
Хочу использовать кликхаус для заббикс, но возник вопрос, если в кх возможность удалять старые запись старше n-дня?
Есть TTL на таблицы.
Посмотрите ещё на движок GraphiteMergeTree
источник

J

JTaky in ClickHouse не тормозит
Спасибо, обязательно почитаю)
источник

SC

Smoked Cheese in ClickHouse не тормозит
ещё можно просто партиционировать по дате и дропать старые партишны
источник

AZ

Anton Zhuravsky in ClickHouse не тормозит
добрый день! быть может, кто-то сталкивался: CH (20.3 LTS) перестал забирать данные из Кафки. Офсет в кафке не двигается, данные новые не появляются. В логах CH постоянно вот такие сообщение:

2020.06.27 17:38:27.442003 [ 86 ] {} <Debug> StorageKafka (events_queue): Started streaming to 1 attached views
2020.06.27 17:38:27.443016 [ 86 ] {} <Trace> StorageKafka (events_queue): Already subscribed to topics: [ PlaygroundInsights001 ]
2020.06.27 17:38:27.443039 [ 86 ] {} <Trace> StorageKafka (events_queue): Already assigned to : [ PlaygroundInsights001[0:#] ]
2020.06.27 17:38:27.443141 [ 86 ] {} <Trace> StorageKafka (events_queue): Polled offset 4301972537 (topic: PlaygroundInsights001, partition: 0)
2020.06.27 17:38:27.443149 [ 86 ] {} <Trace> StorageKafka (events_queue): Nothing to commit.
2020.06.27 17:38:27.444117 [ 86 ] {} <Trace> StorageKafka (events_queue): Committed offset 4301907001 (topic: PlaygroundInsights001, partition: 0)
источник

AZ

Anton Zhuravsky in ClickHouse не тормозит
Anton Zhuravsky
добрый день! быть может, кто-то сталкивался: CH (20.3 LTS) перестал забирать данные из Кафки. Офсет в кафке не двигается, данные новые не появляются. В логах CH постоянно вот такие сообщение:

2020.06.27 17:38:27.442003 [ 86 ] {} <Debug> StorageKafka (events_queue): Started streaming to 1 attached views
2020.06.27 17:38:27.443016 [ 86 ] {} <Trace> StorageKafka (events_queue): Already subscribed to topics: [ PlaygroundInsights001 ]
2020.06.27 17:38:27.443039 [ 86 ] {} <Trace> StorageKafka (events_queue): Already assigned to : [ PlaygroundInsights001[0:#] ]
2020.06.27 17:38:27.443141 [ 86 ] {} <Trace> StorageKafka (events_queue): Polled offset 4301972537 (topic: PlaygroundInsights001, partition: 0)
2020.06.27 17:38:27.443149 [ 86 ] {} <Trace> StorageKafka (events_queue): Nothing to commit.
2020.06.27 17:38:27.444117 [ 86 ] {} <Trace> StorageKafka (events_queue): Committed offset 4301907001 (topic: PlaygroundInsights001, partition: 0)
вопрос снят, включение debug all для кафки подсказало, что в топике оказалось сломанное сообщение
источник
2020 June 28

AK

Anh Ku in ClickHouse не тормозит
and the former worked for me
источник

ee

elessar elfstone in ClickHouse не тормозит
ребят, есть кто к CH подключается из beaver или чего нить подобного
источник

BK

Bogdan Kolesnik in ClickHouse не тормозит
elessar elfstone
ребят, есть кто к CH подключается из beaver или чего нить подобного
Да
источник

ED

Evgeniy Devyatykh in ClickHouse не тормозит
elessar elfstone
ребят, есть кто к CH подключается из beaver или чего нить подобного
я из dbeaver подключаюсь
источник

ED

Evgeniy Devyatykh in ClickHouse не тормозит
Все привет!
Был CH 20.3 вставка через Buffer таблицу работала нормально.
Обновил до 20.4.6 revision 54434 и INSERT в Buffer таблицу стали валиться с  ошибкой:

Memory limit (total) exceeded: would use 27.90 GiB (attempt to allocate chunk of 4197612 bytes), maximum: 27.90 GiB (version 20.4.6.53 (official build))

WTF?! Может подскажет кто?
источник

ED

Evgeniy Devyatykh in ClickHouse не тормозит
Evgeniy Devyatykh
Все привет!
Был CH 20.3 вставка через Buffer таблицу работала нормально.
Обновил до 20.4.6 revision 54434 и INSERT в Buffer таблицу стали валиться с  ошибкой:

Memory limit (total) exceeded: would use 27.90 GiB (attempt to allocate chunk of 4197612 bytes), maximum: 27.90 GiB (version 20.4.6.53 (official build))

WTF?! Может подскажет кто?
Отвечаю сам себе
Дело похоже в https://github.com/ClickHouse/ClickHouse/issues/10293

По умолчанию
   <max_server_memory_usage_to_ram_ratio>0.9</max_server_memory_usage_to_ram_ratio>

Поставил 10 - всё стало нормально.
Всего 32Гб на сервере, занято дай бог 16 - остальное вообще свободно.
CH как-то странненько память считает которая ему может потребоваться для выполнения запросов.
источник

ee

elessar elfstone in ClickHouse не тормозит
копался в config.xml и сломал чет... не могу стартовать clickhouse-server
источник

ED

Evgeniy Devyatykh in ClickHouse не тормозит
elessar elfstone
копался в config.xml и сломал чет... не могу стартовать clickhouse-server
смотри /var/log/clickhouse-server/clickhouse-server.err.log
источник

AK

Alexey Kostarev in ClickHouse не тормозит
Anton Farygin
О, я что-то про историю в соседнюю таблицу не подумал. Отличный план. Ещё бы придумать как сжать эту соседнюю таблицу так, что бы в ней оставались только изменения. Но видимо это на уровне MV не сделать
Антон может я ошибаюсь (не прочитал историю переписки), но я сейчас решил  по моему аналогичную проблему
В основную таблицу записываются строки с сохранением последнего состояния. Я использую VersionCollapsingMergeTree(Status, SIGN)
Status определяет статус записи (их у записи может быть несколько)
За счет использования SIGN +-1 я удаляю из нее записи с предадущим статусом. Остаются только последние.
Историю изменений я пишу в другую таблицу (мат представление от основной) по условию WHERE SIGN=1
Основную сортитую по времени,
Таблицу  с историей (мат предствление) по вторичному индексу (у меня номеру Заказа)
Все работает на ура...
источник

ee

elessar elfstone in ClickHouse не тормозит
Evgeniy Devyatykh
смотри /var/log/clickhouse-server/clickhouse-server.err.log
Poco::Exception. Code: 1000, e.code() = 99, e.displayText() = Net Exception: Cannot assign requested address: [::1]:8123 (version 20.4.6.53 (official build)
источник

ED

Evgeniy Devyatykh in ClickHouse не тормозит
elessar elfstone
Poco::Exception. Code: 1000, e.code() = 99, e.displayText() = Net Exception: Cannot assign requested address: [::1]:8123 (version 20.4.6.53 (official build)
IPv6 на сервере нет. чтобы без IPv6
<listen_host>0.0.0.0</listen_host>
источник

ee

elessar elfstone in ClickHouse не тормозит
источник

ee

elessar elfstone in ClickHouse не тормозит
вроде все правильно
источник

p

pv in ClickHouse не тормозит
elessar elfstone
вроде все правильно
У Вас же ::1  а выше пишут надо 0.0.0.0
источник