Size: a a a

ClickHouse не тормозит

2020 June 24

D

Dj in ClickHouse не тормозит
Alexander Sapin
это просто настройка, уже запилена)
а как называется? что-то в 20.3 не обнаружил в mt-settings/settings
источник

l

lnuynxa in ClickHouse не тормозит
Dj
а как называется? что-то в 20.3 не обнаружил в mt-settings/settings
<always_fetch_merged_part>1</always_fetch_merged_part>
кмк оно
источник

AS

Alexander Sapin in ClickHouse не тормозит
lnuynxa
<always_fetch_merged_part>1</always_fetch_merged_part>
кмк оно
ага
источник

l

lnuynxa in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
точно, а дальше магия, эльфы ее проверяют ?
Да вроде она работает
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dj
да, у нас вообще дедлок был.

запустили materialize TTL (потому что авто ттл кривой и дропает слишком медленно ttl_only_drop_parts=1).

оказалось materialize TTL тоже кривой (сука) и перезаписывает все парты даже при ttl_only_drop_parts=1,  все по канону с распаковыванием и запаковыванием )

merge не шли потому что mutate зависли изза number_of_free_entries_in_pool_to_execute_mutation

а merge не шли из-за max_bytes_to_merge_at_min_space_in_pool
——
сейчас убрали лимит на mutation, включили лимит
но факт в том, что сейчас вся база читается и пишется просто так...
мержи не идут потому нет места в пуле
место забукано мутациями которые не идут потому что пул занят мержами?

как-то непонятно, как это
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
lnuynxa
Да вроде она работает
ну я про то что это не просто настройка, там еще кода немного
источник

l

lnuynxa in ClickHouse не тормозит
А, поня

Единственное не хватает некоторой задержки, что бы не все подряд парты скачивались, а только те, которые минут 10+ уже прожили
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
lnuynxa
А, поня

Единственное не хватает некоторой задержки, что бы не все подряд парты скачивались, а только те, которые минут 10+ уже прожили
тогда реплика будет отставать на 10мин., кажется это тоже хотели запилить -- отстающие реплики
источник

l

lnuynxa in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
тогда реплика будет отставать на 10мин., кажется это тоже хотели запилить -- отстающие реплики
ну и плевать, это для бекапов.

Да хотели, но ишью-фичу закрыли емнип никто не изъявил желание в такой штуке
источник

D

Dj in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
мержи не идут потому нет места в пуле
место забукано мутациями которые не идут потому что пул занят мержами?

как-то непонятно, как это
как-то так
сам не понял.
после убирания number_of_free_entries_in_pool_to_execute_mutation и увеличения max_bytes_to_merge_at_min_space_in_pool все пошло. До этого в цикле логировало
schemaname.tblname (ReplicatedMergeTreeQueue): Not executing log entry MUTATE_PART for part 20200620-21-2_1050_1054_1_1064…


поэтому вопрос, как вообще из queue элементы берутся?
max_replicated_merges_in_queue=32
max_replicated_mutations_in_queue=8

вставок при этом не шло совсем!

может ли быть такое что replicatedMT сначала забивает background thread, и только потом проверяет количество свободных threadов в пуле, убеждается что по лимитам не пролезаем и релизит?
источник

MV

Maksim Vasyunin in ClickHouse не тормозит
Всем привет.  Несколько join в одном запросе сейчас возможны только в виде подзапросов?
источник

DS

Dmitry S. in ClickHouse не тормозит
Добрый вечер, кто-нибудь сталкивался с пустой папкой shadow в резервной копии при использовании clickhouse-backup?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Dmitry S.
Добрый вечер, кто-нибудь сталкивался с пустой папкой shadow в резервной копии при использовании clickhouse-backup?
он очищает папку и переносит все в clickhouse/backup
источник

DS

Dmitry S. in ClickHouse не тормозит
Dmitry Titov
он очищает папку и переносит все в clickhouse/backup
вот в clickhouse/backup/backup_name/ есть только metadata и пустая shadow, что я делаю не так?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Dmitry S.
вот в clickhouse/backup/backup_name/ есть только metadata и пустая shadow, что я делаю не так?
при создании бекапа выводится список таблиц.
у тебя правильный glob используется?
источник

SK

Serhii Kholodniuk in ClickHouse не тормозит
Подскажите у меня основные данные в json-е, но некоторые поля я хотел-бы во время insert генерировать самим кликхаусом( uuid) как лучше вставлять данные?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Serhii Kholodniuk
Подскажите у меня основные данные в json-е, но некоторые поля я хотел-бы во время insert генерировать самим кликхаусом( uuid) как лучше вставлять данные?
генерировать или доставать из json?
источник

DS

Dmitry S. in ClickHouse не тормозит
Dmitry Titov
при создании бекапа выводится список таблиц.
у тебя правильный glob используется?
я в этом тебе нуб, что такое glob?
источник

SK

Serhii Kholodniuk in ClickHouse не тормозит
Dmitry Titov
генерировать или доставать из json?
Хочу генероровать UUID
источник

VT

Vladimir Tretyakov in ClickHouse не тормозит
Добрый день
Есть необходимость хранить 50 миллионов строк и обновлять 1 колонку со скоростью 1 миллион в час
Что предпочесть CollapsingMergeTree или AggregatingMergeTree ?
источник