Size: a a a

ClickHouse не тормозит

2020 July 17

AS

Alexander Selivanov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
и во что вы вставляете? в какой engine?
У таблиц ENGINE = MergeTree()
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Alexander Selivanov
У таблиц ENGINE = MergeTree()
тогда не может быть никакого лага, это невозможно в КХ
в КХ инсерт возвращает управление когда парты в списке active, селект видит все active. Может быть лаг на реплике, но обычно лаг 1-2 сек, пока реплика качает новый парт.
источник

GE

Grigory Efimov in ClickHouse не тормозит
привет!
пробую использовать фунцию groupArrayMovingSum на distributed таблице, получаю ошибку:

Code: 63. DB::Exception: Received from localhost:9000. DB::Exception: Unknown aggregate function movingXXX: while receiving packet from clickhouse-log4.:9000.

на локальной табличке отрабатывает нормально
версии кх в кластере одинаковые

подскажите, можно как то заставить фунцию работать с distributed таблицей
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Grigory Efimov
привет!
пробую использовать фунцию groupArrayMovingSum на distributed таблице, получаю ошибку:

Code: 63. DB::Exception: Received from localhost:9000. DB::Exception: Unknown aggregate function movingXXX: while receiving packet from clickhouse-log4.:9000.

на локальной табличке отрабатывает нормально
версии кх в кластере одинаковые

подскажите, можно как то заставить фунцию работать с distributed таблицей
КХ у вас древний, без groupArrayMovingSum
источник

AS

Alexander Selivanov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
тогда не может быть никакого лага, это невозможно в КХ
в КХ инсерт возвращает управление когда парты в списке active, селект видит все active. Может быть лаг на реплике, но обычно лаг 1-2 сек, пока реплика качает новый парт.
Ну вот то то и оно, в кафке лаг = 0, но записи появляются с задержкой, может быть это из-за лага в приватной сети вообще? Может быть такое?
источник

GE

Grigory Efimov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
КХ у вас древний, без groupArrayMovingSum
ну на локальной табличке в той же версии сервера работает
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Alexander Selivanov
Ну вот то то и оно, в кафке лаг = 0, но записи появляются с задержкой, может быть это из-за лага в приватной сети вообще? Может быть такое?
а лаг чем мониторите? консьмером? попробуйте снаружи чем-то мониторить например https://github.com/danielqsj/kafka_exporter
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Grigory Efimov
ну на локальной табличке в той же версии сервера работает
ну должно работать, у меня работает
select groupArrayMovingSum(dummy) from remote(replicated, system, one)
select FQDN() h, groupArrayMovingSum(number) from remote(replicated, system, numbers) where number <10 group by h
источник

AS

Alexander Selivanov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
а лаг чем мониторите? консьмером? попробуйте снаружи чем-то мониторить например https://github.com/danielqsj/kafka_exporter
Да просто запрашивали командой в консоли, там CURRENT-OFFSET был,  LOG-END-OFFSET был и LAG = 0
источник

AS

Alexander Selivanov in ClickHouse не тормозит
Но этот экспортёр у нас тоже есть, в графане есть дашборды тоже
источник

GE

Grigory Efimov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну должно работать, у меня работает
select groupArrayMovingSum(dummy) from remote(replicated, system, one)
select FQDN() h, groupArrayMovingSum(number) from remote(replicated, system, numbers) where number <10 group by h
помоему remote() немного не так работает как engine Distributed
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Grigory Efimov
помоему remote() немного не так работает как engine Distributed
remote создает временную таблицу с engine Distributed
источник

О

Олег in ClickHouse не тормозит
Коллеги, привет.
Подскажите, пожалуйста. Хочу узнать сколько прошло микросекунд с начала дня:
select toDateTime64('2020-05-05 20:20:12.123456', 6) - toStartOfInterval(toDateTime64('2020-05-05 20:20:12.123456', 6), INTERVAL 1 day)

Но ловлю ошибку:
DB::Exception: Illegal types DateTime64(6) and DateTime('Europe/Moscow') of arguments of function minus

Почему toStartOfInterval конвертирует из datetime64 в datetime?
DateDiff использовать не могу тут. Не умеет он работать с DateTime64.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Олег
Коллеги, привет.
Подскажите, пожалуйста. Хочу узнать сколько прошло микросекунд с начала дня:
select toDateTime64('2020-05-05 20:20:12.123456', 6) - toStartOfInterval(toDateTime64('2020-05-05 20:20:12.123456', 6), INTERVAL 1 day)

Но ловлю ошибку:
DB::Exception: Illegal types DateTime64(6) and DateTime('Europe/Moscow') of arguments of function minus

Почему toStartOfInterval конвертирует из datetime64 в datetime?
DateDiff использовать не могу тут. Не умеет он работать с DateTime64.
есть toUnixTimestamp64Micro
источник

О

Олег in ClickHouse не тормозит
по всей видимости не в 20.3 версии(
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Олег
по всей видимости не в 20.3 версии(
SELECT
   now64() AS x,
   toFloat64(x) AS y,
   toUInt64(replace(toString(y), '.', '')) AS w,
   toDateTime64(w / 1000, 3) AS z

┌───────────────────────x─┬──────────────y─┬─────────────w─┬───────────────────────z─┐
│ 2020-07-14 15:28:55.863 │ 1594740535.863 │ 1594740535863 │ 2020-07-14 15:28:55.863 │
└─────────────────────────┴────────────────┴───────────────┴─────────────────────────┘
источник

О

Олег in ClickHouse не тормозит
интересно)
источник

О

Олег in ClickHouse не тормозит
спасибо, из всего этого я думаю смогу построить требуемую конструкцию))
источник

GE

Grigory Efimov in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну должно работать, у меня работает
select groupArrayMovingSum(dummy) from remote(replicated, system, one)
select FQDN() h, groupArrayMovingSum(number) from remote(replicated, system, numbers) where number <10 group by h
если задать более одного remote сервера, то не работает:

SELECT groupArrayMovingSum(value)
FROM remote('cld-clickhouse-log1', system, metrics)

┌─groupArrayMovingSum(value)─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┐
│ [2,2,2,2,2,2,2,2,2,2,2,4,5,5,13,13,14,14,14,14,14,15,86278925,2291089624,-122688189272,-122688189272,-122688189271,-122688189269,-122688189268,-122688189264,-122688189264,-122688189264,-122688189264,-122688189264,-122688189264,-122688189264,-122688134838,-122669119835,-122669119835,-122669119835,-122669119831,-122669119831,-122669119736,-122669119693,-122669119693,-122669119693,-122669119693] │
└────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┘

1 rows in set. Elapsed: 0.003 sec.


SELECT groupArrayMovingSum(value)
FROM remote('cld-clickhouse-log{1..4}', system, metrics)

← Progress: 0.00 rows, 0.00 B (0.00 rows/s., 0.00 B/s.) Received exception from server (version 19.15.3):
Code: 63. DB::Exception: Received from localhost:9000. DB::Exception: Unknown aggregate function movingXXX: while receiving packet from cld-clickhouse-log2:9000.

0 rows in set. Elapsed: 0.006 sec.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Grigory Efimov
если задать более одного remote сервера, то не работает:

SELECT groupArrayMovingSum(value)
FROM remote('cld-clickhouse-log1', system, metrics)

┌─groupArrayMovingSum(value)─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┐
│ [2,2,2,2,2,2,2,2,2,2,2,4,5,5,13,13,14,14,14,14,14,15,86278925,2291089624,-122688189272,-122688189272,-122688189271,-122688189269,-122688189268,-122688189264,-122688189264,-122688189264,-122688189264,-122688189264,-122688189264,-122688189264,-122688134838,-122669119835,-122669119835,-122669119835,-122669119831,-122669119831,-122669119736,-122669119693,-122669119693,-122669119693,-122669119693] │
└────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┘

1 rows in set. Elapsed: 0.003 sec.


SELECT groupArrayMovingSum(value)
FROM remote('cld-clickhouse-log{1..4}', system, metrics)

← Progress: 0.00 rows, 0.00 B (0.00 rows/s., 0.00 B/s.) Received exception from server (version 19.15.3):
Code: 63. DB::Exception: Received from localhost:9000. DB::Exception: Unknown aggregate function movingXXX: while receiving packet from cld-clickhouse-log2:9000.

0 rows in set. Elapsed: 0.006 sec.
а покажите

SELECT version()
FROM remote('cld-clickhouse-log1', system, one)
источник