Size: a a a

ClickHouse не тормозит

2020 August 31

S

Slawka in ClickHouse не тормозит
Может кто-то сталковался, есть счётчик с сервера, необходимо отобразить график с разницей значений arraydifference отлично, но есть проблема
Данные с сервера могут не поступить и при рестарте счётчик сбрасывается. В Prometheus функция rate это сглаживает, есть ли возможность сгладить средствами clickhouse?
источник

GR

Gubaydullin Ruslan in ClickHouse не тормозит
SYSTEM START MERGES [[db.]merge_tree_family_table_name]
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
@den_crane в продолжение проблемки с которой просил помощь выше и завел баг на гитхабе, где не могу дропнуть партицию с кривыми данными, вопрос - безопасно ли делать так (как опишу ниже)?
Я пошел в зукипер, удалил путь /путь_в_зк_для_таблицы/replicas/реплика/parts/парт_с_некорректными_данными.
Отрестартил КХ.
Получил искомый парт в detached/ папку таблицы с таким именем  ignored_19700101_19700101_0_0_0.
Безопасно ли повторять такое на проде?
источник

D

Dj in ClickHouse не тормозит
Роман Агилов
потом сейчас запустил kill mutations
system.mutations опять проверьте. все ли закончены/отменены?
источник

РА

Роман Агилов... in ClickHouse не тормозит
да все нормализовалось, спасибо большое за совет
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
коллеги, вопрос по мерджам. допустим все что делает мой кластер это пережевывает новую дату и делает вставки в таблицы. скорость селектов меня не интересует. все что меня интересует это максимальная скорость вставок и максимально быстрые мерджи. С первым я думаю что я разберусь, а что делать со вторым я бы хотел посоветоваться с комьюнити. Какие сеттинги надо подкрутить что бы максимизировать скорость мерджей?
источник

D

Dj in ClickHouse не тормозит
Wolf Kreuzerkrieg
коллеги, вопрос по мерджам. допустим все что делает мой кластер это пережевывает новую дату и делает вставки в таблицы. скорость селектов меня не интересует. все что меня интересует это максимальная скорость вставок и максимально быстрые мерджи. С первым я думаю что я разберусь, а что делать со вторым я бы хотел посоветоваться с комьюнити. Какие сеттинги надо подкрутить что бы максимизировать скорость мерджей?
теоретически упростить ордербай )
убрать компрессию
задрать background_pool_size
enable_vertical_merge_algorithm - не пробовал (но он в дефолте используется вроде)
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
первые два не годятся
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
третий, с него я и собирался начинать
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
enable_vertical_merge_algorithm у меня по умолчанию включен
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
может еще какие то thresholds есть которые сделают мердж расторопней?
источник

D

Dj in ClickHouse не тормозит
Wolf Kreuzerkrieg
может еще какие то thresholds есть которые сделают мердж расторопней?
number_of_free_entries_in_pool_to_lower_max_size_of_merge
уменьшить до 1
источник

D

Dj in ClickHouse не тормозит
в общем то мердж проде однопоточный... т.е. ускорять = увеличивать потоки )
источник

D

Dj in ClickHouse не тормозит
min_merge_bytes_to_use_direct_io - можно поробовать кеш выключить если данных больше
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
number_of_free_entries_in_pool_to_lower_max_size_of_merge ок, попробую
min_merge_bytes_to_use_direct_io тут по умолчанию 10Гб, какое число туда логично впихнуть? это вроде тоилько для решения использовать aio или нет. я не очень понимаю в каких случаях, без связи с размерами блоков данных aio будет хуже чем синхронный io
источник

D

Dj in ClickHouse не тормозит
думаю когда в кеше ФС места не будет хватать от этого будет только зло. вообще чисто для мерджей, директио должен быть быстрее. попробуйте выставить в 1.
а вообще вам лучше тюнить ФС (например nobarrier)
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Dj
теоретически упростить ордербай )
убрать компрессию
задрать background_pool_size
enable_vertical_merge_algorithm - не пробовал (но он в дефолте используется вроде)
order by как может на мержи повлиять? слияние отсортированных списков уже, там нет сортировки
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Константин Трофимов
@den_crane в продолжение проблемки с которой просил помощь выше и завел баг на гитхабе, где не могу дропнуть партицию с кривыми данными, вопрос - безопасно ли делать так (как опишу ниже)?
Я пошел в зукипер, удалил путь /путь_в_зк_для_таблицы/replicas/реплика/parts/парт_с_некорректными_данными.
Отрестартил КХ.
Получил искомый парт в detached/ папку таблицы с таким именем  ignored_19700101_19700101_0_0_0.
Безопасно ли повторять такое на проде?
а detach partition не работает тоже?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Роман Агилов
их очень много, они точно не закончились и вряд ли он их пережует
kill mutation where not is_done
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
а detach partition не работает тоже?
Тоже. Очень хотелось бы понять в чем разница между нашими окружениями, почему у вас не воспроизводится. Сегодня уже не у ПК, завтра в гитхаб отпишу максимум подробностей (конфиг, лог, версия ЗК).
источник