Size: a a a

ClickHouse не тормозит

2020 June 26

DC

Denny Crane (I don't... in ClickHouse не тормозит
ну меньше 16 должно быть, хотя бы, желательно 0
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
--background_pool_size arg                                       Number of threads performing background work for tables (for example, merging in merge tree). Only has meaning at server startup.
 --background_move_pool_size arg                                  Number of threads performing background moves for tables. Only has meaning at server startup.
 --background_schedule_pool_size arg                              Number of threads performing background tasks for replicated tables. Only has meaning at server startup.

мутации есть?
number_of_free_entries_in_pool_to_execute_mutation
источник

BB

Bral Bral in ClickHouse не тормозит
Ну нет, никакие запросы с альтером/делетом не делаю
источник

BB

Bral Bral in ClickHouse не тормозит
С таблицами только инсерт/селект ну и drop partition раз в сутки.
источник

BK

Bogdan Kolesnik in ClickHouse не тормозит
Как настроить автоматическую репликацию из MySQL, работает только если в консоли прописать, как добавить новую задачу под репликацию. Куда искать?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Скорее всего только через стороннюю программк, если я правильно понял вопрос
источник

ЗС

Зуфар Самигуллин... in ClickHouse не тормозит
Всем привет! КТо нибудь сталкивался со следующей ошибкой?
Sorting key cannot contain nullable columns


CREATE MATERIALIZED VIEW limits
           ENGINE = AggregatingMergeTree() PARTITION BY toYYYYMM(timestamp) PRIMARY KEY (timestamp,skin_id) ORDER BY (timestamp,skin_id)
AS select
    skin_id
    ,timestamp
    ,quantileExactWeighted(.8)(c_price,c_offers) as max
    ,quantileExactWeighted(0.2)(c_price,c_offers) as min
from states
GROUP BY skin_id, timestamp;


Исходная таблица:
CREATE TABLE states
(
   timestamp          DateTime,
   skin_id          Int64,
   c_classid          Int64,
   c_instanceid       Int64,
   c_price            Int32,
   c_offers           UInt32,
   c_market_hash_name String
)
   ENGINE = ReplacingMergeTree()
       PARTITION BY toYYYYMMDD(timestamp)
       ORDER BY (timestamp,c_classid,c_instanceid)
       TTL timestamp + INTERVAL 1 MONTH;
источник

ЗС

Зуфар Самигуллин... in ClickHouse не тормозит
Не мойму почему он считает столбцы  timestamp,skin_id nullable если они таковыми не являются?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Зуфар Самигуллин
Всем привет! КТо нибудь сталкивался со следующей ошибкой?
Sorting key cannot contain nullable columns


CREATE MATERIALIZED VIEW limits
           ENGINE = AggregatingMergeTree() PARTITION BY toYYYYMM(timestamp) PRIMARY KEY (timestamp,skin_id) ORDER BY (timestamp,skin_id)
AS select
    skin_id
    ,timestamp
    ,quantileExactWeighted(.8)(c_price,c_offers) as max
    ,quantileExactWeighted(0.2)(c_price,c_offers) as min
from states
GROUP BY skin_id, timestamp;


Исходная таблица:
CREATE TABLE states
(
   timestamp          DateTime,
   skin_id          Int64,
   c_classid          Int64,
   c_instanceid       Int64,
   c_price            Int32,
   c_offers           UInt32,
   c_market_hash_name String
)
   ENGINE = ReplacingMergeTree()
       PARTITION BY toYYYYMMDD(timestamp)
       ORDER BY (timestamp,c_classid,c_instanceid)
       TTL timestamp + INTERVAL 1 MONTH;
и где skin_id в исходной таблице?
источник

ЗС

Зуфар Самигуллин... in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
и где skin_id в исходной таблице?
Поправил, не то скопировал
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Зуфар Самигуллин
Поправил, не то скопировал
вот попробовал в 3 разных кх , все создается
источник

ЗС

Зуфар Самигуллин... in ClickHouse не тормозит
Эм, нашёл проблему)
SHOW CREATE TABLE states;


CREATE TABLE default.states
(
   `timestamp` DateTime,
   `c_classid` Int64,
   `c_instanceid` Int64,
   `c_price` Int32,
   `c_offers` UInt32,
   `skin_id` Nullable(Int64)
)
ENGINE = ReplacingMergeTree()
PARTITION BY toYYYYMMDD(timestamp)
ORDER BY (timestamp, c_classid, c_instanceid)
TTL timestamp + toIntervalMonth(1)
SETTINGS index_granularity = 8192
источник

ЗС

Зуфар Самигуллин... in ClickHouse не тормозит
Не верь IDE)
источник

DT

Dmitry Titov in ClickHouse не тормозит
она умудряется подвирать даже с postgresql, так что с кликхаусом вообще не стоит верить всяким DDL )
источник

ЗС

Зуфар Самигуллин... in ClickHouse не тормозит
Мдэ, пол часа искал косяк(
источник

R

Rail in ClickHouse не тормозит
Alexander Petrov
И ещё странно что таблицы в CH таки создались, а таблица c миграциями - нет. Может быть даже запросы одной команды на запуск миграции раскидываются по разным подам.
не, они не раскидываются на разных подах, в settings.CLICKHOUSE_HOST не указан отдельно взятый под,
но как раз надо попробовать отдельно на каждом поде запустить миграции
источник

AP

Alexander Petrov in ClickHouse не тормозит
Rail
не, они не раскидываются на разных подах, в settings.CLICKHOUSE_HOST не указан отдельно взятый под,
но как раз надо попробовать отдельно на каждом поде запустить миграции
Ага. Так должно заработать.
источник

ЕА

Егор Андреевич... in ClickHouse не тормозит
Доброе утро, подскажите в кликхаусе есть какой-нибудь готовый инструмент для автоматической очистки данных по партициям?
источник

R

Rail in ClickHouse не тормозит
Alexander Petrov
Ага. Так должно заработать.
сейчас в миграциях указал первый под и все таблицы создались в первом поде, а ReplecatedMergeTree также появились в других подах и нет как раньше разброса таблиц kafka engine, consumer MV по всем подам.
Если запущу во всех подах миграции, то видимо kafka engine, consumer MV тоже продублируются и будет ок
источник

RO

Required Optional in ClickHouse не тормозит
Добрый день, коллеги и спящие неботовские гуру. Может ли оптимизация таблицы в которую внесли блум фильтр на несколько полей с гранулярностью 1 привести к проблеме: слишком много открытых файлов? Партиция не была изменена и почти каждая из них содержит несколько десятков милионов записей...
источник