Size: a a a

ClickHouse не тормозит

2020 September 25

IK

Ilona Knizhnikova in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
в доке рядом move partition
А если в целевой таблице уже есть такая партиция - как move себя поведет?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Ilona Knizhnikova
А если в целевой таблице уже есть такая партиция - как move себя поведет?
в целевой таблице всегда нет такой партиции. Они переименовываются при добавлении, но это не важно, их еще и мержи переименовывают.
источник

IK

Ilona Knizhnikova in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
в целевой таблице всегда нет такой партиции. Они переименовываются при добавлении, но это не важно, их еще и мержи переименовывают.
Я про данные из той партиции.
Есть ли риск при ретраях получить задвоение или еще какие-то интересные спецэффекты?
источник

IK

Ilona Knizhnikova in ClickHouse не тормозит
Или move совсем атомарный, и если что - в оригинальной таблице уже ничего не будет и он на это заругается?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Ilona Knizhnikova
Или move совсем атомарный, и если что - в оригинальной таблице уже ничего не будет и он на это заругается?
в оригинальной таблице при повторном move не будет партиции поэтому я и его предложил.

ничего true атомарного в КХ нет, если ZK отвалится при move то будет не пойми какое промежуточное состояние.
источник

IK

Ilona Knizhnikova in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
в оригинальной таблице при повторном move не будет партиции поэтому я и его предложил.

ничего true атомарного в КХ нет, если ZK отвалится при move то будет не пойми какое промежуточное состояние.
Если true атомарного нет - в каких ситуациях может случиться сбой и задвоение?
Хочется натыкать предохранителей прежде чем оно в проде выстрелит)
Или это совсем никак не отследить?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Ilona Knizhnikova
Если true атомарного нет - в каких ситуациях может случиться сбой и задвоение?
Хочется натыкать предохранителей прежде чем оно в проде выстрелит)
Или это совсем никак не отследить?
при сбоях операций с ZK, внезапных рестартах
источник

IK

Ilona Knizhnikova in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
при сбоях операций с ZK, внезапных рестартах
А есть какой-то более-менее общепринятый способ это отслеживать/обходить?
Или только терпеть и навешивать мониторинги на состояние данных?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
вы идете нестандартным путем, если делать обычные инсерты, то они идемпотенты из-за insert_deduplicate поэтому таких вопросов нет, повторяем инсерт до успеха.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
данные готовим в идемпотентном ETL
источник

IK

Ilona Knizhnikova in ClickHouse не тормозит
Поняла, спасибо, будем думать)
источник

MS

Mikhail S. in ClickHouse не тормозит
Добрый день! В чем может быть причина? Code 36 db exception ioerror logical type null can not be applied to group node. Падает при импорте parquet
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Mikhail S.
Добрый день! В чем может быть причина? Code 36 db exception ioerror logical type null can not be applied to group node. Падает при импорте parquet
ну просто не реализовано это. Сделайте feature request , приложите паркет или код как его нагенерить питоном
источник

MS

Mikhail S. in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
ну просто не реализовано это. Сделайте feature request , приложите паркет или код как его нагенерить питоном
Хорошо, а что именно не устраивает clickhouse? Возможно, проще изменить паркет .
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Mikhail S.
Хорошо, а что именно не устраивает clickhouse? Возможно, проще изменить паркет .
не знаю,

я бы зашел с другой стороны, сгенерил по таблице КХ-а паркет и посмотрел что получилось в нем
источник

I

Ivan in ClickHouse не тормозит
пардон, что повторяюсь, но: в версии 19.14 для того чтобы изменить TTL для таблицы в сторону увеличения (с изменением для тех данных, которые уже есть в таблице) достаточно выполнить ALTER TABLE <tableName> MODIFY TTL <expr>, или нужно проделывать манипуляции с данными, чтобы изменить их TTL?
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
что можно поковырять чтобы кликхаус работал на сервере с небольшим RAM?
пока пробовал max_concurrent_queries, background_pool_size, number_of_free_entries_in_pool_to_lower_max_size_of_merge, number_of_free_entries_in_pool_to_execute_mutation
что-нибудь еще имеет смысл смотреть? CH 20.9.2.20
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Vladimir Mihailenco
что можно поковырять чтобы кликхаус работал на сервере с небольшим RAM?
пока пробовал max_concurrent_queries, background_pool_size, number_of_free_entries_in_pool_to_lower_max_size_of_merge, number_of_free_entries_in_pool_to_execute_mutation
что-нибудь еще имеет смысл смотреть? CH 20.9.2.20
для меня небольшой это 64 ГБ
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
для меня 4gb
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
и я не прошу невозможного
CH сейчас хорошо работает (почти :)
источник