Size: a a a

ClickHouse не тормозит

2020 June 10

SS

Stanislav Serdyukov in ClickHouse не тормозит
Приветствую. Сегодня столкнулись со странным ростом Background tasks на одной из нод, в результате которого нода перестала отвечать на чтение и на запись. Пришлось рестартовать. Думали, что могут быть мерджи, но интенсивной записи в этот период не происходило. Кто-нибудь сталкивался?
источник

M

Munir in ClickHouse не тормозит
Спасибо. Жаль.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Stanislav Serdyukov
Приветствую. Сегодня столкнулись со странным ростом Background tasks на одной из нод, в результате которого нода перестала отвечать на чтение и на запись. Пришлось рестартовать. Думали, что могут быть мерджи, но интенсивной записи в этот период не происходило. Кто-нибудь сталкивался?
есть 312 закрытых багов про это и 186 открытых. Без чтения всего clickhouse.log с log_level = trace, без знания окружения, без иши на гитхабе,  можно просто сказать "у вас баг номер 17 наверное"
источник

SS

Stanislav Serdyukov in ClickHouse не тормозит
благодарю
источник

D

Denis in ClickHouse не тормозит
Привет. Подскажите, чем можно искать последовательности событий, который произошли с разницей, больше указанной? Грубо говоря надо найти дни, когда была последовательность (start_event, >= 5 min, stop_event).
источник

ИМ

Илья Максимов... in ClickHouse не тормозит
Привет ребятушки! А можно ли изменить мат вьюшку в .sql файлике и применить сразу изменения (без drop и create)? Можно ли провернуть такой хак или есть способ сделать альтер проще?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Denis
Привет. Подскажите, чем можно искать последовательности событий, который произошли с разницей, больше указанной? Грубо говоря надо найти дни, когда была последовательность (start_event, >= 5 min, stop_event).
ну по разному, в зависимости от кол-ва событий в целом, кол-ва событий в окне поиска, и размере окна.

можно arrayMap(groupArray
можно windowFunnel

и что нужно искать? кол-во таких событий в час или что?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Илья Максимов
Привет ребятушки! А можно ли изменить мат вьюшку в .sql файлике и применить сразу изменения (без drop и create)? Можно ли провернуть такой хак или есть способ сделать альтер проще?
можно

остановить заливку
detach table mvname
attache materialized view as новый селект
включить заливку

+ есть экспериментальный allow_experimental_alter_materialized_view_structure ALTER TABLE mv MODIFY QUERY SELECT v == 1 as test, v as case FROM src_a;
источник

ИМ

Илья Максимов... in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
можно

остановить заливку
detach table mvname
attache materialized view as новый селект
включить заливку

+ есть экспериментальный allow_experimental_alter_materialized_view_structure ALTER TABLE mv MODIFY QUERY SELECT v == 1 as test, v as case FROM src_a;
Понял, спасибо. А какие ещё лайвхаки есть над .sql файлами? Как они ещё могут быть полезны?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Илья Максимов
Понял, спасибо. А какие ещё лайвхаки есть над .sql файлами? Как они ещё могут быть полезны?
вопрос непонятен, причем тут .sql файлы? ну можно их менять и что? какая разница?
источник

ИМ

Илья Максимов... in ClickHouse не тормозит
Я так понял, что есть разные финты ушами над мета данными в кликхаусе, которые решают некоторые проблемы. И предположил, что мета файлы это либо .sql файлы, либо что то ещё
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Илья Максимов
Я так понял, что есть разные финты ушами над мета данными в кликхаусе, которые решают некоторые проблемы. И предположил, что мета файлы это либо .sql файлы, либо что то ещё
это метафайлы, да, их можно менять вручную. Но надо понимать к чему это приведет в каждом из 18 млн. вариантов.

вот есть такие у меня примеры (что как делать без правки .sql)

How to convert not replicated MV to replicated https://gist.github.com/den-crane/80cb95e74f046be2d8ffae58d9b04e8f

How to alter MV https://gist.github.com/den-crane/431010ca08b9e51b960e55344b1dbbe3

MV_poplulating_with_freeze https://gist.github.com/den-crane/64c05be67ef8a926242011188ce96f44

Several_MV_one_internal_store https://gist.github.com/den-crane/005633470c70877dd28c00211cd9fcfb

Populate AggregatingMergeTree through null table https://gist.github.com/den-crane/f7382cd4f1f859ff6ac46afe7dc9925a

alter_MV_with_SummingMergeTree https://gist.github.com/den-crane/3a8d57253711e277b2a60a75b5dfeef6

Rename MV in CH before 19.8.3.8 https://gist.github.com/den-crane/d9a0bceb58a7d5314ea66e8edbebc9f7
источник

ИМ

Илья Максимов... in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
это метафайлы, да, их можно менять вручную. Но надо понимать к чему это приведет в каждом из 18 млн. вариантов.

вот есть такие у меня примеры (что как делать без правки .sql)

How to convert not replicated MV to replicated https://gist.github.com/den-crane/80cb95e74f046be2d8ffae58d9b04e8f

How to alter MV https://gist.github.com/den-crane/431010ca08b9e51b960e55344b1dbbe3

MV_poplulating_with_freeze https://gist.github.com/den-crane/64c05be67ef8a926242011188ce96f44

Several_MV_one_internal_store https://gist.github.com/den-crane/005633470c70877dd28c00211cd9fcfb

Populate AggregatingMergeTree through null table https://gist.github.com/den-crane/f7382cd4f1f859ff6ac46afe7dc9925a

alter_MV_with_SummingMergeTree https://gist.github.com/den-crane/3a8d57253711e277b2a60a75b5dfeef6

Rename MV in CH before 19.8.3.8 https://gist.github.com/den-crane/d9a0bceb58a7d5314ea66e8edbebc9f7
Ух тыж, спасибо, по изучаю томными вечерами
источник

D

Denisio in ClickHouse не тормозит
блин, походу мне надо консультацию по правильной организации данных в CH :)
источник
2020 June 11

AB

Alex B. in ClickHouse не тормозит
Подскажите, плиз, какая функция возвращает название дня недели по номеру дня недели
источник

pk

papa karlo in ClickHouse не тормозит
WITH ['пн', 'вт', 'ср', 'чт', 'пт', 'сб', 'вс'] AS ds
SELECT ds[toDayOfWeek(today())] AS d
┌─d──┐
│ чт │
└────┘
источник

AB

Alex B. in ClickHouse не тормозит
papa karlo
WITH ['пн', 'вт', 'ср', 'чт', 'пт', 'сб', 'вс'] AS ds
SELECT ds[toDayOfWeek(today())] AS d
┌─d──┐
│ чт │
└────┘
Спасибо! но тут проблемка, я прописывают функции в специальном окошечке BI Superset и нужна именно функция
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Alex B.
Спасибо! но тут проблемка, я прописывают функции в специальном окошечке BI Superset и нужна именно функция
Так поправьте три буквы.

Есть ещё функция formatdatetime но там кажется анлгл. имена дней.
источник

DS

Denis Smolyar in ClickHouse не тормозит
день добрый.

вопрос.

хочу я добавить policy пользователю так, чтобы он видел только часть записей в таблице.

и получается у меня такая штука:

select count(*) from (select * from access_test);

665



select count(*) from access_test;
1000
источник

DS

Denis Smolyar in ClickHouse не тормозит
т.е. select * фильтруется.

а select count(*) уже нет.
источник