Size: a a a

ClickHouse не тормозит

2020 August 06

NN

Nick Nizovtsev in ClickHouse не тормозит
спасиб
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
и merges я с ходу не вспомню но там что нибудь типа "where table=" так же
источник

A

Andrey in ClickHouse не тормозит
Всем привет, хочу переключить приложении на новый КХ, репликация не настроена, как мне до залить свежие данные со старого КХ в новый КХ и не затереть данные в новом?
источник

Y

Yuran in ClickHouse не тормозит
Andrey
Всем привет, хочу переключить приложении на новый КХ, репликация не настроена, как мне до залить свежие данные со старого КХ в новый КХ и не затереть данные в новом?
Настроить репликацию?
источник

Y

Yuran in ClickHouse не тормозит
источник

Y

Yuran in ClickHouse не тормозит
(можно сконвертировать существующий MergeTree в ReplicatedMergeTree)
источник

A

Andrey in ClickHouse не тормозит
Кроме репликация, ещё есть варианты?
источник

Y

Yuran in ClickHouse не тормозит
Andrey
Кроме репликация, ещё есть варианты?
Можно остановить КХ и сделать rsync, но репликация позволяет сделать то же самое без длительного downtime
источник

Y

Yuran in ClickHouse не тормозит
(репликация данных не затрет существующие записи в новом КХ)
источник

A

Andrey in ClickHouse не тормозит
Yuran
Можно остановить КХ и сделать rsync, но репликация позволяет сделать то же самое без длительного downtime
а если попробовать через INSERT INTO... SELECT * from remote()...?
источник

Y

Yuran in ClickHouse не тормозит
Andrey
а если попробовать через INSERT INTO... SELECT * from remote()...?
Зависит от того, сколько у Вас данных. Если их много (скажем, больше 10 Гб), я бы не советовал, ибо этот запрос будет неатомарным
источник

Y

Yuran in ClickHouse не тормозит
(а ещё он будет намного медленней чем  что репликация, что ручной rsync)
источник

Y

Yuran in ClickHouse не тормозит
В общем, если хотите самое простое и надежное решение, то переделайте свои MergeTree в ReplicatedMergeTree и ClickHouse всё сам смержит, даже не заметите
источник

Y

Yuran in ClickHouse не тормозит
Если хотите геморроя, то пожалуйста, делайте rsync, INSERT INTO SELECT FROM remote(), используйте clickhouse-copier, и прочее
источник

A

Andrey in ClickHouse не тормозит
Yuran
Зависит от того, сколько у Вас данных. Если их много (скажем, больше 10 Гб), я бы не советовал, ибо этот запрос будет неатомарным
Данных не должно быть много, только за 6-7 число надо будет до залить
источник

A

Andrey in ClickHouse не тормозит
Yuran
В общем, если хотите самое простое и надежное решение, то переделайте свои MergeTree в ReplicatedMergeTree и ClickHouse всё сам смержит, даже не заметите
Просто версии КХ разные и структура таблиц старая на старом КХ
источник

Y

Yuran in ClickHouse не тормозит
Andrey
Просто версии КХ разные и структура таблиц старая на старом КХ
Если структура таблиц отличается, то их всегда можно привести к одному знаменателю, добавив недостающие колонки
источник

Y

Yuran in ClickHouse не тормозит
Andrey
Данных не должно быть много, только за 6-7 число надо будет до залить
Если так, то INSERT INTO SELECT может сработать, но я бы вставлял небольшими пачками (по ~1 млн строк) на всякий случай, чтобы точно INSERT был атомарным и также чтобы потребление памяти было под контролем
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Nick Nizovtsev
Привет всем, запустил в базу кучу мелких альтер удалений, запустил оптимайз на таблицу, параллельно посматриваю is_done, но что-то как-то они не прибавляются, как мониторить процесс накатывания мутаций?
мониторю завершенность так: select is_done, count() from system.mutations where table='table_name’ group by is_done
optimize вообще не имеет отношения к мутациям, и только мешает, вы себе в колено стреляете.
источник

NN

Nick Nizovtsev in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
optimize вообще не имеет отношения к мутациям, и только мешает, вы себе в колено стреляете.
а что посоветуете чтобы просанировать ситуацию с кучей мелких мутаций?
источник