Size: a a a

ClickHouse не тормозит

2020 July 27

S

Slach in ClickHouse не тормозит
Vladimir Mihailenco
Если заменить ORDER BY duration на ORDER BY колонка из ключа то начинает работать быстрее. Так должно быть или есть надежда как-то ускорить?
да так должно быть, потому что .mrk файлы весят меньше и кешируются в памтяи и позволяют быстрее parts для чтения отбросить
источник

S

Slach in ClickHouse не тормозит
Stanislav
Всем привет. Подскажите, плиз, как скопировать БД с 8-нодного кластера на 3-нодный?
источник

S

Stanislav in ClickHouse не тормозит
спасибо!
источник

DV

Dmitry Vasiliev in ClickHouse не тормозит
...
источник

DV

Dmitry Vasiliev in ClickHouse не тормозит
Ch не грузится 🙂 как поднять?
источник

DV

Dmitry Vasiliev in ClickHouse не тормозит
сори проблема была в том что metadata грузилась от 20.5 на версии 20.3
источник

S

Slach in ClickHouse не тормозит
Dmitry Vasiliev
сори проблема была в том что metadata грузилась от 20.5 на версии 20.3
;) я бы оставил сообщения, только поправил бы текст обшики без стектрейсов
источник

A

Andrey in ClickHouse не тормозит
всем привет, можно ли как-то организовать архивировние более старой информации и сбрасывать на сервер с медленными дисками? и если да, то можно какие-то рабочие примеры, только начинаю админить clickhouse
источник

ЯК

Ян Калмычков... in ClickHouse не тормозит
Andrey
всем привет, можно ли как-то организовать архивировние более старой информации и сбрасывать на сервер с медленными дисками? и если да, то можно какие-то рабочие примеры, только начинаю админить clickhouse
поищите в документации clickhouse TTL
источник

ЯК

Ян Калмычков... in ClickHouse не тормозит
источник

И

Иван in ClickHouse не тормозит
Andrey
всем привет, можно ли как-то организовать архивировние более старой информации и сбрасывать на сервер с медленными дисками? и если да, то можно какие-то рабочие примеры, только начинаю админить clickhouse
Скорее tieried storage, ссылка та же, но чуть ниже по тексту
источник

НМ

Никита Макушников... in ClickHouse не тормозит
Привет! Есть такой вопрос:
Версия Clickhouse 20.5. Есть таблица mergetree. Делаю select и вижу, что таблица пустая. Смотрю в system.parts и вижу, что имеется два парта. На таблицу настроен ttl, парты должны были потереться. Делаю alter table materialize ttl, в таблице system.mutations вижу, что операция завершена. При этом старые парты всё равно не удалились. Аналогично если делаю операцию alter table modify ttl, а затем optimize final. Также пробовал system start ttl merges для этой таблицы, не помогло. Почему так?
источник

S

Slach in ClickHouse не тормозит
Никита Макушников
Привет! Есть такой вопрос:
Версия Clickhouse 20.5. Есть таблица mergetree. Делаю select и вижу, что таблица пустая. Смотрю в system.parts и вижу, что имеется два парта. На таблицу настроен ttl, парты должны были потереться. Делаю alter table materialize ttl, в таблице system.mutations вижу, что операция завершена. При этом старые парты всё равно не удалились. Аналогично если делаю операцию alter table modify ttl, а затем optimize final. Также пробовал system start ttl merges для этой таблицы, не помогло. Почему так?
какой status у parts стоит? 1?
источник

НМ

Никита Макушников... in ClickHouse не тормозит
Да, активные
источник

S

Slach in ClickHouse не тормозит
Никита Макушников
Да, активные
думаю что это хороший повод завести issue в github и подождать ответа разработчиков
возможно мы с вами не понимаем в какой момент должны отрабатывать удаления по TTL

в system.mutations
есть вообще  в перечне партов парты которые в system.parts видите?

ну либо у вас все таки TTL не так настроен как вы думаете...
источник

НМ

Никита Макушников... in ClickHouse не тормозит
В system.mutations есть колонки parts_to_do и parts_to_do_names, как вы и говорите. Там эти парты были указаны. Всё так. Но фактического удаления всё равно не произошло.

Смотрю сейчас DDL, там:
...
ENGINE = MergeTree()
PARTITION BY toYYYYMM(TimeStamp)
ORDER BY TimeStamp
TTL TimeStamp + toIntervalMonth(6)
...

При этом партиции, которые не удаляются, следующие: 201903 и 201904. То есть явно прошло 6 месяцев.

Не понимаю 🙂 issue заведу, спасибо
источник

НМ

Никита Макушников... in ClickHouse не тормозит
Если я выполняю system start ttl merges или optimize table final, чтобы форсировать удаление старых партов, процессы удаления сразу запускаются фоном ведь? Нет необходимости ждать таймаут, указанный настройкой merge_with_ttl_timeout?
источник

WK

Wolf Kreuzerkrieg in ClickHouse не тормозит
коллеги такой вопрос по функциям агрегации. Я вылетел с Sizes of columns doesn't match, распечатал блок, что мы имеем? media_source String String(size = 9565051), а потом SUM(launches_count) AggregateFunction(sum, Int64) AggregateFunction(size = 8427764),. т.е. падает он обоснованно, но как получается что функция возвращает меньше результатов? это какая то особенность работы с зануленными полями?
источник

A

Alexey in ClickHouse не тормозит
Alexandr
Добрый день! после обновления до 20.5.2.7 , перестал работать UNION ALL, с ошибкой DB::Exception: Block structure mismatch in  function connect between Converting and Concat stream: different number of columns
Может кто-то сталкивался?
Здравствуйте, столкнулись с аналогичной ситуацией, после апдейта на 20.5.3.27, перестал работать боевой запрос. Что самое интересное, подзапросы отрабатывают по отдельности нормально, а UNION ALL сыпет такой ошибкой даже если взять два идентичных подзапроса.
Структурно запрос выглядит так:

SELECT ... FROM data.table_a
  INNER JOIN (
             SELECT ...
             FROM data.table_b
             WHERE ...
             ) cur USING (a, b)
WHERE ...
         
UNION ALL

SELECT ... FROM data.table_a
  INNER JOIN (
             SELECT ...
             FROM data.table_b
             WHERE ...
             ) cur USING (a, b)
WHERE ...


Падает даже с идентичными частями до и после UNION ALL. При чем если убрать в любой части один INNER JOIN начинает отрабатывать без ошибки. Есть какие-то workaround или придется откатываться назад?
источник

A

Alexandr in ClickHouse не тормозит
Alexey
Здравствуйте, столкнулись с аналогичной ситуацией, после апдейта на 20.5.3.27, перестал работать боевой запрос. Что самое интересное, подзапросы отрабатывают по отдельности нормально, а UNION ALL сыпет такой ошибкой даже если взять два идентичных подзапроса.
Структурно запрос выглядит так:

SELECT ... FROM data.table_a
  INNER JOIN (
             SELECT ...
             FROM data.table_b
             WHERE ...
             ) cur USING (a, b)
WHERE ...
         
UNION ALL

SELECT ... FROM data.table_a
  INNER JOIN (
             SELECT ...
             FROM data.table_b
             WHERE ...
             ) cur USING (a, b)
WHERE ...


Падает даже с идентичными частями до и после UNION ALL. При чем если убрать в любой части один INNER JOIN начинает отрабатывать без ошибки. Есть какие-то workaround или придется откатываться назад?
Привет! мы не нашли решения и откатили назад. Ситуация идентичная
источник