Size: a a a

ClickHouse не тормозит

2020 August 24

A

Artem in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
какая ошибка при инсерте? Не надо пересказывать своими словами, там 3 разных ошибки и вам они кажутся одной и той же но это не (тут мат) так. И какая версия КХ.
Code: 241, e.displayText() = DB::Exception: Memory limit (total) exceeded: would use 1.13 GiB (attempt to allocate chunk of 4502600 bytes), maximum: 1.13 GiB (version 20.4.7.67 (official build))
источник

A

Alex in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну на миллиарде записей у меня синтетический запрос работал в 100 раз медленее с final
Лучше делать MergeTree и join'ить с изменяющимися данными в ReplacingMergeTree или выбрать для изменяющихся данных MySQL?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Artem
Code: 241, e.displayText() = DB::Exception: Memory limit (total) exceeded: would use 1.13 GiB (attempt to allocate chunk of 4502600 bytes), maximum: 1.13 GiB (version 20.4.7.67 (official build))
обновляйте до 20.4.9.110, в вашей версии memory tracking врет, и ошибочно считает total
источник

A

Alex in ClickHouse не тормозит
Artem
Code: 241, e.displayText() = DB::Exception: Memory limit (total) exceeded: would use 1.13 GiB (attempt to allocate chunk of 4502600 bytes), maximum: 1.13 GiB (version 20.4.7.67 (official build))
была такая же проблема, обновляйте)
источник

A

Artem in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
обновляйте до 20.4.9.110, в вашей версии memory tracking врет, и ошибочно считает total
Интересно, спасибо.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Alex
Лучше делать MergeTree и join'ить с изменяющимися данными в ReplacingMergeTree или выбрать для изменяющихся данных MySQL?
вы про внешние словари уже все попробовали?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Artem
Code: 241, e.displayText() = DB::Exception: Memory limit (total) exceeded: would use 1.13 GiB (attempt to allocate chunk of 4502600 bytes), maximum: 1.13 GiB (version 20.4.7.67 (official build))
+1ГБ это нереально мало для КХ, вам придется попотеть меняя 10005000 настроек
источник

В

Виталий in ClickHouse не тормозит
Доброго времени суток! Подскажите, пожалуйста, какая сейчас стабильная версия КХ?
источник

~

~ in ClickHouse не тормозит
Почему? Только ради правильности или есть ещё причины? Какие-то оптимизации внутри КХ, может?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Виталий
Доброго времени суток! Подскажите, пожалуйста, какая сейчас стабильная версия КХ?
Для меня 18.14.18
источник

A

Artem in ClickHouse не тормозит
На самом деле там вообще 600 МБ на серваке. Но тем интереснее. Сразу все проблемы можно пощупать.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Artem
На самом деле там вообще 600 МБ на серваке. Но тем интереснее. Сразу все проблемы можно пощупать.
изначально КХ написан для серваков у которых было 128ГБ+
источник

A

Artem in ClickHouse не тормозит
Да я в курсе, но ведь работает же.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
~
Почему? Только ради правильности или есть ещё причины? Какие-то оптимизации внутри КХ, может?
так быстрее и меньше места занимает на диске
источник

В

Виталий in ClickHouse не тормозит
А среди 20.Х версий есть стабильные?
источник

~

~ in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
так быстрее и меньше места занимает на диске
IPv6 в КХ это FixedString(16), по месту должно быть то же самое. А быстрее - это факт практический или в теории?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Artem
Да я в курсе, но ведь работает же.
есть параметр например mark_cache  по дефолту он равен 5ГБ, что это значит? А значит это что КХ пытается использовать 5ГБ озу для кеша одних только засечек, а там еще всяких кешей 38 штук
источник

A

Artem in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
есть параметр например mark_cache  по дефолту он равен 5ГБ, что это значит? А значит это что КХ пытается использовать 5ГБ озу для кеша одних только засечек, а там еще всяких кешей 38 штук
Да, я читал уже. Но там доказано, что он on demand и не надо его трогать.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
~
IPv6 в КХ это FixedString(16), по месту должно быть то же самое. А быстрее - это факт практический или в теории?
по перфомансу это одно и тоже примерно. Просто IPv6 автоматически в строки конвертится

Вот String <> FixedString.
источник

A

Alex in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
вы про внешние словари уже все попробовали?
внешние словари пробовал, не хочется mysql сильно напрягать и скорее может не вытянуть потом : на 1к в MergeThree +-50 записей получается где-то измененных, все таки думаете лучше MySQL выбрать?
источник