Size: a a a

ClickHouse не тормозит

2020 June 04

D

Dj in ClickHouse не тормозит
Dmitry Titov
это не совсем транзакционность имхо, просто консистентность разных ORDER BY
И одна таблица выглядит гораздо проще чем две таблицы и MV между них для каких то изменений
А еще нужно объяснять как этим пользоваться программистам
про МВ между них речи не шло.
консистентность order by будет разменом на гибкость и усложнением merge-tree.
кмк лучше иметь возможность гибко настраивать таблицы с этими разными order by... кому надо - будет атомик инсерт делать (вставить либо везде успешно, либо никуда)
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
у нас бекэнд угадывает куда ходить, типа есть агрегаты A,B,C,D, факты X,Y,Z , бекенд перебирает по очереди и ищет где есть все метрики и дименшины, и пишет sql куда надо
источник

DT

Dmitry Titov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
у нас бекэнд угадывает куда ходить, типа есть агрегаты A,B,C,D, факты X,Y,Z , бекенд перебирает по очереди и ищет где есть все метрики и дименшины, и пишет sql куда надо
сурово
источник

ЕА

Егор Андреевич... in ClickHouse не тормозит
Sergei
Добрый вечер,
Code: 241, e.displayText() = DB::Exception: Memory limit (total) exceeded: would use 7.00 GiB (attempt to allocate chunk of 4502712 bytes), maximum: 7.00 GiB (version 20.3.10.75 (official build))
Начали сыпаться при записи небольших чанков. Пару недель все ок было.
Мониторинг в Я.Облаке для сервиса ничего подозрительного.
Не подскажете плз в чем проблема?
у нас подобная была штука, и проблема заключалась в том, что с какого-то момента выросли http соединения и судя по всему они не закрывались, а кликхаус не высвобождает память пока соединение на закроется
источник

S

Sergei in ClickHouse не тормозит
Да, ~20% больше обычного
источник

S

Sergei in ClickHouse не тормозит
Егор Андреевич
у нас подобная была штука, и проблема заключалась в том, что с какого-то момента выросли http соединения и судя по всему они не закрывались, а кликхаус не высвобождает память пока соединение на закроется
Спасибо!
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Sergei
Добрый вечер,
Code: 241, e.displayText() = DB::Exception: Memory limit (total) exceeded: would use 7.00 GiB (attempt to allocate chunk of 4502712 bytes), maximum: 7.00 GiB (version 20.3.10.75 (official build))
Начали сыпаться при записи небольших чанков. Пару недель все ок было.
Мониторинг в Я.Облаке для сервиса ничего подозрительного.
Не подскажете плз в чем проблема?
это из-за фичи max_server_memory_usage_to_ram_ratio

https://github.com/ClickHouse/ClickHouse/issues/11153#issuecomment-633212510
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
в облаке саппорт по объявлениям в маршрутках набирают? Меня возьмите, я способный.
источник

DT

Dmitry Titov in ClickHouse не тормозит
Dj
про МВ между них речи не шло.
консистентность order by будет разменом на гибкость и усложнением merge-tree.
кмк лучше иметь возможность гибко настраивать таблицы с этими разными order by... кому надо - будет атомик инсерт делать (вставить либо везде успешно, либо никуда)
Ну мне допустим нужен только различный ORDER BY
И я был бы рад если бы эта фича появилась ;)
источник

DT

Dmitry Titov in ClickHouse не тормозит
где нужны разные агрегаты буду дальше пользоваться MV
источник

D

Dj in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
у нас бекэнд угадывает куда ходить, типа есть агрегаты A,B,C,D, факты X,Y,Z , бекенд перебирает по очереди и ищет где есть все метрики и дименшины, и пишет sql куда надо
ну вот вы сами сделали навороченный supermerge engine =)
источник

ЕА

Егор Андреевич... in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
в облаке саппорт по объявлениям в маршрутках набирают? Меня возьмите, я способный.
в облаке саппорт отвечает "читайте документацию, мы хз", ты тут гораздо ценнее
источник

DT

Dmitry Titov in ClickHouse не тормозит
Dj
ну вот вы сами сделали навороченный supermerge engine =)
построенный на эксепшенах, я правильно же понял ?)
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dj
ну вот вы сами сделали навороченный supermerge engine =)
кстати сделано 10 лет назад, для вертики или еще mysql даже
источник

S

Sergei in ClickHouse не тормозит
Спасибо! Буду чанки увеличивать, похоже много соединений и часто пишу.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
в вертике тоже агрегаты суммирующие (типа summingMT) которые не сделать проекциями
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
кстати щаз у нас еще смешнее, если в вертике таких дименшинов нет, бекэнд идет автоматически в КХ
источник

D

Dj in ClickHouse не тормозит
Dmitry Titov
построенный на эксепшенах, я правильно же понял ?)
почему? на правилах... если то - иди туда, если сё - иди сюда...
источник

D

Dj in ClickHouse не тормозит
я к тому, что если делать это поверх таблиц отдельным engine-ом - это позволит не усложнять merge-tree
источник

DT

Dmitry Titov in ClickHouse не тормозит
Dj
почему? на правилах... если то - иди туда, если сё - иди сюда...
>перебирает по очереди
ну я это понял буквально просто, возможно ошибаюсь
источник