Size: a a a

ClickHouse не тормозит

2021 March 19

NZ

Nikita Zakharov in ClickHouse не тормозит
Конфиги оставил старые во время обновления
источник

DT

Dmitry Titov in ClickHouse не тормозит
Nikita Zakharov
Всем привет.
Обновил КХ с 20.8 до 21.3.
На 20.8 было занято 35GB/252GB RAM, после рестарта держится 91GB/252GB RAM. Сейчас внешней акстивности на сервере нет. Есть внешние словари, которые уже загрузились, но оператива не освободилась. В логах видно, что КХ делает что-то с партами. После окончания работы с ними, оператива должна упасть? Или из-за чего такое могло произойти?
select formatReadableSize(sum(bytes_allocated)) from system.dictionaries;

SELECT
   database,
   name,
   formatReadableSize(total_bytes)
FROM system.tables
WHERE engine = 'Memory'

select formatReadableSize(sum(memory_usage)) from system.merges;

select formatReadableSize(sum(memory_usage)) from system.processes;

SELECT
   initial_query_id,
   formatReadableSize(memory_usage),
   formatReadableSize(peak_memory_usage),
   query
FROM system.processes
ORDER BY peak_memory_usage DESC
LIMIT 10
источник

Sitrix Тарасов Иван... in ClickHouse не тормозит
Привет! Есть кто настраивал получение данных из rabbitmq через движок клика? Постоянная ошибка при создании таблицы
источник

D

Dj in ClickHouse не тормозит
Vladislav Ross
добрый вечер
хочется мониторить какие таблицы больше всего мержатся
нормально ли каждый 5 секунд делать select * from system.merges? это не повредит производительности?
или лучше включить какой-нибудь part_log?
Part log более детерминированно и поллить не надо
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
Dmitry Titov
select formatReadableSize(sum(bytes_allocated)) from system.dictionaries;

SELECT
   database,
   name,
   formatReadableSize(total_bytes)
FROM system.tables
WHERE engine = 'Memory'

select formatReadableSize(sum(memory_usage)) from system.merges;

select formatReadableSize(sum(memory_usage)) from system.processes;

SELECT
   initial_query_id,
   formatReadableSize(memory_usage),
   formatReadableSize(peak_memory_usage),
   query
FROM system.processes
ORDER BY peak_memory_usage DESC
LIMIT 10
Вижу что это все словари занимают. Сейчас попробую сравнить со словарями на другом сервере.
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
Dmitry Titov
select formatReadableSize(sum(bytes_allocated)) from system.dictionaries;

SELECT
   database,
   name,
   formatReadableSize(total_bytes)
FROM system.tables
WHERE engine = 'Memory'

select formatReadableSize(sum(memory_usage)) from system.merges;

select formatReadableSize(sum(memory_usage)) from system.processes;

SELECT
   initial_query_id,
   formatReadableSize(memory_usage),
   formatReadableSize(peak_memory_usage),
   query
FROM system.processes
ORDER BY peak_memory_usage DESC
LIMIT 10
18млн записей в словаре на 21.3 занимають 4 GiB :(
180млн записей в словаре на 20.8 занимають 8 GiB
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
Прошу прощения, ошибку допустил, уже исправил 👆
источник

DT

Dmitry Titov in ClickHouse не тормозит
Nikita Zakharov
18млн записей в словаре на 21.3 занимають 4 GiB :(
180млн записей в словаре на 20.8 занимають 8 GiB
LAYOUT словарей одинаковый?
И  данные в них?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Sitrix Тарасов Иван
Привет! Есть кто настраивал получение данных из rabbitmq через движок клика? Постоянная ошибка при создании таблицы
Кто то настраивал, кто то пользуется, по поводу ошибки мы должны таки догадаться какая она у вас?
источник

Sitrix Тарасов Иван... in ClickHouse не тормозит
Dmitry Titov
LAYOUT словарей одинаковый?
И  данные в них?
Code: 36, e.displayText() = DB::Exception: Failed to declare queue. Probably queue settings are conflicting: max_block_size, deadletter_exchange. Attempt                 specifying differently those settings or use a different queue_base or manually delete previously declared queues,                 which  were declared with the same names. ERROR reason: connection lost (version 21.2.5.5 (official build))
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
Dmitry Titov
LAYOUT словарей одинаковый?
И  данные в них?
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
Dmitry Titov
LAYOUT словарей одинаковый?
И  данные в них?
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
Да, словари одинаковые.
источник

Sitrix Тарасов Иван... in ClickHouse не тормозит
я предполагал сценарий использования с предсоздаными очередями и exchange. или не правилно готовлю его?
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
Dmitry Titov
LAYOUT словарей одинаковый?
И  данные в них?
Но сервер, где КХ 21.3 работает на AMD процессоре, а тот, который на 20.8 на Intel. Пока обновить КХ на том, где Intel не могу.
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
@unamedrus может это после "Added Nullable support"? :)
источник

DT

Dmitry Titov in ClickHouse не тормозит
Sitrix Тарасов Иван
я предполагал сценарий использования с предсоздаными очередями и exchange. или не правилно готовлю его?
Можете показать настройки у rabbitmq таблицы?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Nikita Zakharov
@unamedrus может это после "Added Nullable support"? :)
Вполне вероятно, если все как вы говорите, то других возможных причин я не вижу пока.
источник

DT

Dmitry Titov in ClickHouse не тормозит
С другой стороны, у вашего словаря сейчас же нет Nullable колонок?
источник

NZ

Nikita Zakharov in ClickHouse не тормозит
Не редактировал словари после обновления, а раньше такой возможности не было.
источник