Size: a a a

ClickHouse не тормозит

2020 May 20

K

Kid in ClickHouse не тормозит
Kid
странно что-то
Мб прав не хватает на что-либо?
источник

K

Kid in ClickHouse не тормозит
Kid
Мб прав не хватает на что-либо?
access denied был, нужно владельца сделать clickhouse на директорию с партицей.
все было в docker
источник

a

alexeysh RnD in ClickHouse не тормозит
Делал вставку в новвый матвью
INSERT INTO `.inner.events_states` SELECT 
   date,
   ...
   sumState(show_time) AS show_time,
   sumState(clicks) AS clicks
FROM events_raw
WHERE (date >= toDate('2020-04-01')) AND (date <= toDate('2020-04-30'))
GROUP BY
   date
   
...
некоторое время работал, теперь уже 15 минут висит с такой строчкой
Progress: 2.02 billion rows, 339.89 GB (8.14 million rows/s., 1.37 GB/s.)  98%

Потребляет 1-3 ядра. Как понять что он делает?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
скорее всего собирает результат второй фазы группировки и вставляет
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
можно через null таблицу без GROUP BY https://gist.github.com/den-crane/f7382cd4f1f859ff6ac46afe7dc9925a
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
т.е. MV сгруппирует в блоках по 65к, а потом движок догруппирует
источник

a

alexeysh RnD in ClickHouse не тормозит
спасибо!
источник

S

SkyDigital in ClickHouse не тормозит
Друзья, подскажите, в манах пишут про настройку <max_memory_usage> а в settings вижу <max_server_memory_usage>
Это одно и то же?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
SkyDigital
Друзья, подскажите, в манах пишут про настройку <max_memory_usage> а в settings вижу <max_server_memory_usage>
Это одно и то же?
нет, max_memory_usage -- это память которую может потребить запрос.

max_server_memory_usage добавлена в 20.4
Added a setting max_server_memory_usage to limit total memory usage of the server. The metric MemoryTracking is now calculated without a drift. The setting max_memory_usage_for_all_queries is now obsolete and does nothing. This closes #10293. #10362 (alexey-milovidov)
источник

S

SkyDigital in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
нет, max_memory_usage -- это память которую может потребить запрос.

max_server_memory_usage добавлена в 20.4
Added a setting max_server_memory_usage to limit total memory usage of the server. The metric MemoryTracking is now calculated without a drift. The setting max_memory_usage_for_all_queries is now obsolete and does nothing. This closes #10293. #10362 (alexey-milovidov)
ясно.. спасибо!
источник

OD

Olga Daykhovskaya in ClickHouse не тормозит
Привет!
В репе с драйвером (https://github.com/ClickHouse/clickhouse-jdbc)  указана возможность использовать
BalancedClickhouseDataSource

подскажите пжл, эту фичу как-то можно использовать при записи через спарк?
источник

GM

Grigorii Morozov in ClickHouse не тормозит
Всем привет! Пытаюсь перенести данные из одного кластера в другой при помощи clickhouse-copier. Переносимая таблица содержит поле, которое по дефолту заполняется из словаря. Copier падает с ошибкой, что этого внешнего словаря не существует. Во-первых, словарь существует и загружен и на старом и на новом кластере. Во-вторых, судя по стэк трейсу, ошибка возникает, когда copier пытается создать эту таблицу на новом кластере, при том, что она там уже существует. Впрочем, если не создавать таблицу на новом кластере, ошибка та же. Но непонятно, почему copier принудительно пересоздает таблицу и как этого избежать. В документации ничего не нашел на этот счет.
источник

T

Tony in ClickHouse не тормозит
Всем день добрый.
Подскажите какая система лучше для КХ?
Вот на выбор у нас есть 2 системы со схожим прайсом: 1) 4 CPU, 32 RAM; 2) 8 CPU 16 RAM

Общая таблица будет на миллиард строк, 50 столбцов, много столбцов с которыми нужно будет делать sum(), count(), divide(), avg()
источник

a

alexeysh RnD in ClickHouse не тормозит
память!
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Tony
Всем день добрый.
Подскажите какая система лучше для КХ?
Вот на выбор у нас есть 2 системы со схожим прайсом: 1) 4 CPU, 32 RAM; 2) 8 CPU 16 RAM

Общая таблица будет на миллиард строк, 50 столбцов, много столбцов с которыми нужно будет делать sum(), count(), divide(), avg()
я бы начинал с 64ГБ. Поэтому на 16ГБ лучше вообще не смотреть
источник

T

Tony in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
я бы начинал с 64ГБ. Поэтому на 16ГБ лучше вообще не смотреть
вот на данный момент уже развернут КХ на системе с 32 озу и 4 cpu и при всех моих тестах - озу никогда не потреблялась более чем 10 ГБ
источник

a

alexeysh RnD in ClickHouse не тормозит
А сколько в настройках максимум?
источник

T

Tony in ClickHouse не тормозит
и поэтому появился такой вопрос, ибо озу сейчас есть, но оно не используется
источник

T

Tony in ClickHouse не тормозит
alexeysh RnD
А сколько в настройках максимум?
скорее всего стандартно 10 гб
источник

a

alexeysh RnD in ClickHouse не тормозит
вот и ответ )
источник