Size: a a a

ClickHouse не тормозит

2021 March 17

BS

Brommie Savor in ClickHouse не тормозит
😅
источник

BS

Brommie Savor in ClickHouse не тормозит
https://github.com/ClickHouse/ClickHouse/issues/1576
я так понимаю - вот тут покопать)
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
у меня в таких случаях при рестарте может рандомно ломаться реплика у какой-то таблички — приходится руками исправлять
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
собственно сейчас так и произошло
источник

TU

Temur Uzbekov in ClickHouse не тормозит
Почему партиционирование MV на движке AggregatingMergeTree идет по месяцам, несмотря на то, что вроде как должно быть по дням?

SELECT DISTINCT
   partition,
   min_date,
   max_date
FROM system.parts
WHERE (database = 'foobar') AND (table = '.inner.barfoo')

┌─partition─┬───min_date─┬───max_date─┐
│ 202103    │ 2021-03-17 │ 2021-03-17 │
└───────────┴────────────┴────────────┘


определение MV

CREATE MATERIALIZED VIEW foobar.barfoo (
   `count` AggregateFunction(count),
   `time` DateTime('UCT'),
   `importance` String,
   `_date` Date
)
ENGINE = AggregatingMergeTree(_date, (time, importance), 8192)
AS SELECT
   countState() AS count,
   toStartOfMinute(toDateTime(time)) AS time,
   importance,
   toDate(time) AS _date
FROM foobar.lolkek
GROUP BY time, importance
источник

B

Bohdan in ClickHouse не тормозит
Vladimir Bunchuk
у меня в таких случаях при рестарте может рандомно ломаться реплика у какой-то таблички — приходится руками исправлять
и у меня
источник

D

Dj in ClickHouse не тормозит
Temur Uzbekov
Почему партиционирование MV на движке AggregatingMergeTree идет по месяцам, несмотря на то, что вроде как должно быть по дням?

SELECT DISTINCT
   partition,
   min_date,
   max_date
FROM system.parts
WHERE (database = 'foobar') AND (table = '.inner.barfoo')

┌─partition─┬───min_date─┬───max_date─┐
│ 202103    │ 2021-03-17 │ 2021-03-17 │
└───────────┴────────────┴────────────┘


определение MV

CREATE MATERIALIZED VIEW foobar.barfoo (
   `count` AggregateFunction(count),
   `time` DateTime('UCT'),
   `importance` String,
   `_date` Date
)
ENGINE = AggregatingMergeTree(_date, (time, importance), 8192)
AS SELECT
   countState() AS count,
   toStartOfMinute(toDateTime(time)) AS time,
   importance,
   toDate(time) AS _date
FROM foobar.lolkek
GROUP BY time, importance
deprecated syntax:

date-column — The name of a column of the Date type. ClickHouse automatically creates partitions by month based on this column. The partition names are in the "YYYYMM" format.
источник

D

Dj in ClickHouse не тормозит
Temur Uzbekov
Почему партиционирование MV на движке AggregatingMergeTree идет по месяцам, несмотря на то, что вроде как должно быть по дням?

SELECT DISTINCT
   partition,
   min_date,
   max_date
FROM system.parts
WHERE (database = 'foobar') AND (table = '.inner.barfoo')

┌─partition─┬───min_date─┬───max_date─┐
│ 202103    │ 2021-03-17 │ 2021-03-17 │
└───────────┴────────────┴────────────┘


определение MV

CREATE MATERIALIZED VIEW foobar.barfoo (
   `count` AggregateFunction(count),
   `time` DateTime('UCT'),
   `importance` String,
   `_date` Date
)
ENGINE = AggregatingMergeTree(_date, (time, importance), 8192)
AS SELECT
   countState() AS count,
   toStartOfMinute(toDateTime(time)) AS time,
   importance,
   toDate(time) AS _date
FROM foobar.lolkek
GROUP BY time, importance
пользуйте правильный синтаксис

partition by ...
источник

TU

Temur Uzbekov in ClickHouse не тормозит
спасибо
источник

TU

Temur Uzbekov in ClickHouse не тормозит
Dj
deprecated syntax:

date-column — The name of a column of the Date type. ClickHouse automatically creates partitions by month based on this column. The partition names are in the "YYYYMM" format.
а можно ссылку на источник, пожалуйста?
источник

D

Dj in ClickHouse не тормозит
Temur Uzbekov
а можно ссылку на источник, пожалуйста?
источник

TU

Temur Uzbekov in ClickHouse не тормозит
спасибо!
источник

SC

Sergey Churin in ClickHouse не тормозит
Привет. После применения use_minimalistic_part_header_in_zookeeper 1 (глобально на сервере) как можно старые партиции преобразовать под компактный формат хранения в зукипере? optimize final не прокатывает.
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Ребят, после перезагрузки кликхауса оживает ddl_entry запрос на truncate table и зависает
как его можно прибить?
источник

D

Danil in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
я цитировал автора проблемы. У него не может быть того что вы подумали. У него цитата: "Хосты в локалке пинг около 1 мс"
Кстати после обновления клиента до последнего лтс проблема с ремонтом решилась. Версия ремоут сервера и его конфиг не менялся. Хз что было причиной
источник

D

Danil in ClickHouse не тормозит
Подскажите такой момент: сейчас для вставки данных используется буфер т.к. источник генерит много однострочных инсертов.
Если использовать вставку через Null + MV то кх сам оптимизирует этот момент?
Если нет, то куда буфер прикручивать тогда?
источник

R

Rail in ClickHouse не тормозит
Скажите, можно ли добавлять индекс для нескольких колонок в таблице и не для первичного ключа с помощью запроса из доки https://clickhouse.tech/docs/ru/sql-reference/statements/alter/index/?
источник

K

Konstantin Ilchenko in ClickHouse не тормозит
Danil
Подскажите такой момент: сейчас для вставки данных используется буфер т.к. источник генерит много однострочных инсертов.
Если использовать вставку через Null + MV то кх сам оптимизирует этот момент?
Если нет, то куда буфер прикручивать тогда?
У нас так
Null + MV -> Buf -> MergeTree
источник

K

Konstantin Ilchenko in ClickHouse не тормозит
подскажите, есть ли где-то более детальная информация по data skipping index’ам, кроме вот этой?
https://clickhouse.tech/docs/ru/engines/table-engines/mergetree-family/mergetree/#table_engine-mergetree-data_skipping-indexes
источник

ПБ

Повелитель Бури... in ClickHouse не тормозит
Добрый! Коллеги, в новой версии users.xml надо вность ip адрес
Норм если я пропишу 0.0.0.0 ?

<users>
       <default>
           <password></password>
           <access_management>1</access_management>
           <networks incl="networks" replace="replace">
               <ip>::1</ip>
               <ip>127.0.0.1</ip>
источник