Size: a a a

ClickHouse не тормозит

2021 February 20

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Using Ordinary by default instead of Atomic

# cat /etc/clickhouse-server/config.d/disable_atomic_database.xml
<?xml version="1.0"?>
<yandex>
   <profiles>
       <default>
           <default_database_engine>Ordinary</default_database_engine>
       </default>
   </profiles>
</yandex>
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Also, you can decrease the delay used by Atomic for real table drop (it’s 8 minutes by default)
cat /etc/clickhouse-server/config.d/database_atomic_delay_before_drop_table.xml
<yandex>
   <database_atomic_delay_before_drop_table_sec>1</database_atomic_delay_before_drop_table_sec>
</yandex>
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
DROP TABLE t SYNC;
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
database_atomic_wait_for_drop_and_detach_synchronously
When executing DROP or DETACH TABLE in Atomic database, wait for table data to be finally dropped or detached.

SET database_atomic_wait_for_drop_and_detach_synchronously = 1
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
т.е. можно поставить
config.xml <database_atomic_delay_before_drop_table_sec>1
и
user.xml database_atomic_wait_for_drop_and_detach_synchronously>1
и будет все примерно по старому и с базой атомик.
источник

В

Виктор in ClickHouse не тормозит
Понял, спасибо большое
источник

В

Виктор in ClickHouse не тормозит
А еще вопрос: можно ли как-то ограничить использование зукипера - делаю insert into distributed select from distributed, обе таблицы смотрят на replicated merge tree - выжирает место на зукипере и тот падает
источник

В

Виктор in ClickHouse не тормозит
Занимаемое место медленно но верно растет
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Виктор
А еще вопрос: можно ли как-то ограничить использование зукипера - делаю insert into distributed select from distributed, обе таблицы смотрят на replicated merge tree - выжирает место на зукипере и тот падает
ЗК база в памяти, обычно база Зукипера размером <100 МБ
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Виктор
Занимаемое место медленно но верно растет
растет конкретно какой каталог, какие имена файлов? вы читали раздел доки про ЗК?
зукипер не удаляет бекапы по дефолту
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
обычно зукипер умещается со снепшотами и логами в 1ГБ диска.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
размер 1го снепшота = размеру базы ЗК в ОЗУ
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
логи зукипера это лог транзакций, который накатывается на снепшоты
источник

В

Виктор in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
растет конкретно какой каталог, какие имена файлов? вы читали раздел доки про ЗК?
зукипер не удаляет бекапы по дефолту
сейчас гляну
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
по сути чтобы собраться зукиперу в базу в памяти нужен последний снепшот и логи после него
источник

G

GithubReleases in ClickHouse не тормозит
ClickHouse/ClickHouse tagged: v20.8.13.15-lts
Link: https://github.com/ClickHouse/ClickHouse/releases/tag/v20.8.13.15-lts
Release notes:
ClickHouse lts release v20.8.13.15-lts
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
обычно хранят несколько последних снепшотов (5), потому что последний может быть корапченный из-за спонтанной перезагрузки хардавари
источник

В

Виктор in ClickHouse не тормозит
Остановил инсерт - занятое место висит на последнем уровне, на ноде зукипера 82 снапшота и 83 лога
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Виктор
Остановил инсерт - занятое место висит на последнем уровне, на ноде зукипера 82 снапшота и 83 лога
https://clickhouse.tech/docs/ru/operations/tips/
autopurge.snapRetainCount=10
autopurge.purgeInterval=1

перестартовать зк
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
С настройками по умолчанию, ZooKeeper является бомбой замедленного действия:

   Сервер ZooKeeper не будет удалять файлы со старыми снепшоты и логами при использовании конфигурации по умолчанию (см. autopurge), это является ответственностью оператора.

Эту бомбу нужно обезвредить.
источник