Size: a a a

ClickHouse не тормозит

2020 June 01

P

Pavel in ClickHouse не тормозит
Dj
ALTER TABLE events ADD COLUMN some_alias String ALIAS id_str_1
А когда оно начало требовать тип? с какого CH?
источник

P

Pavel in ClickHouse не тормозит
Раньше вроде как само резолвило тип исходя из родительской колонки
источник

D

Dj in ClickHouse не тормозит
Pavel
Раньше вроде как само резолвило тип исходя из родительской колонки
не знаю, но он вроде позволяет expression задавать, и понятия "родительской колонки" нет
источник

D

Dj in ClickHouse не тормозит
Kate Glushchenko
16 Gb, max_insert_block_size не настроен. Выборка идет внутри партиции, партиция состоит из 3 файлов по 7-8 Gb
попробуйте уменьшите max_insert_block_size (он всегда настроен по умолчанию миллион строк).
может у вас слишком широкие строки.
источник

D

Dj in ClickHouse не тормозит
Kate Glushchenko
16 Gb, max_insert_block_size не настроен. Выборка идет внутри партиции, партиция состоит из 3 файлов по 7-8 Gb
а сколько в IDLE режиме памяти занято? (когда не вставляете ничего)
источник

DT

Dmitry Titov in ClickHouse не тормозит
Dj
попробуйте уменьшите max_insert_block_size (он всегда настроен по умолчанию миллион строк).
может у вас слишком широкие строки.
insert select по 6-10 к строк, это нужно уменьшать инсерт блок сайз до этих чисел или даже меньше судя по всему
источник

D

Dj in ClickHouse не тормозит
ну может там в IDLE режиме все 13 Гиг и заняты )))
источник

OA

Oleg A. 🇷🇺 in ClickHouse не тормозит
Smoked Cheese
разве jdbc драйвер не по HTTP коннектится?
Спасибо за помощь. Разобрался.
Это дефект на стороне DataGrip.
Не смотря на то, что в настройках соединения SSL включен, сертификат отдан и включена его проверка, при коннекте это не учитывалось.
В строке коннекта насильно добавил ssl=true и блок с SSL начал работать.
Отправлю ребятам из JB ишью в их трекер 🙂

Оставлю этот пост здесь. Вдруг кому пригодится 🙂
#datagrip #ssl #yandex
источник

DT

Dmitry Titov in ClickHouse не тормозит
Dj
ну может там в IDLE режиме все 13 Гиг и заняты )))
ну там не OOM приходит, а просто убивается по лимиту памяти.
источник

D

Dj in ClickHouse не тормозит
Kate Glushchenko
16 Gb, max_insert_block_size не настроен. Выборка идет внутри партиции, партиция состоит из 3 файлов по 7-8 Gb
какой средний/медианный размер НЕСЖАТОГО парта? (uncompressed_size)
источник

KG

Kate Glushchenko in ClickHouse не тормозит
Dmitry Titov
insert select по 6-10 к строк, это нужно уменьшать инсерт блок сайз до этих чисел или даже меньше судя по всему
В доке написано что это бесполезно
источник

D

Dj in ClickHouse не тормозит
Dmitry Titov
ну там не OOM приходит, а просто убивается по лимиту памяти.
ну там 13 занято, он 1гиг резервирует и потом убивается, почему бы и да
источник

DT

Dmitry Titov in ClickHouse не тормозит
Kate Glushchenko
В доке написано что это бесполезно
есть настройка для размера блока селекта, но непонятно будет ли работать для INSERT SELECT
источник

D

Dj in ClickHouse не тормозит
Kate Glushchenko
В доке написано что это бесполезно
у Денни влияло, у меня тоже влияло
https://t.me/clickhouse_ru/153076
источник

D

Dj in ClickHouse не тормозит
Kate Glushchenko
В доке написано что это бесполезно
хотя может это max_block_size влиял...
источник

D

Dj in ClickHouse не тормозит
Kate Glushchenko
16 Gb, max_insert_block_size не настроен. Выборка идет внутри партиции, партиция состоит из 3 файлов по 7-8 Gb
какой средний/медианный размер НЕСЖАТОГО парта? (uncompressed_size)
и сколько строк в партах?

просто если вы вставляете по 6к и вылетает по памяти - у вас строки монструозно широкие должны быть...
источник

KG

Kate Glushchenko in ClickHouse не тормозит
Dj
какой средний/медианный размер НЕСЖАТОГО парта? (uncompressed_size)
и сколько строк в партах?

просто если вы вставляете по 6к и вылетает по памяти - у вас строки монструозно широкие должны быть...
источник

D

Dj in ClickHouse не тормозит
~2500 bytes per row...
все правильно, вы в доку не туда смотрели.
вот эти дефолты надо менять (уменьшать). И все будет хорошо.
у вас минимум по ляму строк вставка - т.е. 2.5 * 10м * 8 (мой магический фактор расфигачивания в памяти)
min_insert_block_size_rows  1048576
min_insert_block_size_bytes  268435456
источник

ИЦ

Илья Цуцков... in ClickHouse не тормозит
Mikhail Glader
я не понимаю, почему нельзя сделать простую таблицу, как в постгре.
В Clickhouse нет транзакционной целостностности, нормальных UPDATE, уникальных индексов и внешних ключей. Помимо этого справочник по-хорошему надо создавать и обновлять на каждом узле кластера отдельно.

Одним словом, в CH гораздо больше проблем со справочниками, чем пользы, лучше подключить ODBC Dictionary из PostgreSQL.
источник

l

lnuynxa in ClickHouse не тормозит
Илья Цуцков
В Clickhouse нет транзакционной целостностности, нормальных UPDATE, уникальных индексов и внешних ключей. Помимо этого справочник по-хорошему надо создавать и обновлять на каждом узле кластера отдельно.

Одним словом, в CH гораздо больше проблем со справочниками, чем пользы, лучше подключить ODBC Dictionary из PostgreSQL.
ну на каждом узле, можно через репликацию сделать
источник