Size: a a a

ClickHouse не тормозит

2021 February 12

D

Dj in ClickHouse не тормозит
Edya
Коллеги, привет! Какой сейчас самый быстрый и простой способ скопировать стендалон инстанс кликхауса на другой хост? Нужно переехать с одного хоста на другой
если можно остановить то можно перенести папки data/metadata + users sql файлики
источник

NT

Nikita Tikhomirov in ClickHouse не тормозит
Добрый день, делаю запрос по типу:
SELECT UserID, COUNT(*) as c FROM Statistic GROUP BY UserID ORDER BY c DESC LIMIT 100;
Выдает Code: 241. DB::Exception: Received from localhost:9000. DB::Exception: Memory limit (for query) exceeded: would use 93.14 GiB (attempt to allocate chunk of 8323568 bytes), maximum: 93.13 GiB: While executing AggregatingTransform.
Есть ли варианты, как это можно пофиксить?
источник

D

Dj in ClickHouse не тормозит
Alina Kocheva
Да ничего вроде, все по дефолту
ну проверьте в preprocessed_configs/config.xml
по умолчанию секция закомментирована полностью должна быть
источник

D

Dj in ClickHouse не тормозит
Nikita Tikhomirov
Добрый день, делаю запрос по типу:
SELECT UserID, COUNT(*) as c FROM Statistic GROUP BY UserID ORDER BY c DESC LIMIT 100;
Выдает Code: 241. DB::Exception: Received from localhost:9000. DB::Exception: Memory limit (for query) exceeded: would use 93.14 GiB (attempt to allocate chunk of 8323568 bytes), maximum: 93.13 GiB: While executing AggregatingTransform.
Есть ли варианты, как это можно пофиксить?
попробуйте спиллить на диск

SELECT UserID, COUNT(*) as c FROM Statistic GROUP BY UserID ORDER BY c DESC LIMIT 100
SETTINGS max_bytes_before_external_group_by=10000000000;
источник

NT

Nikita Tikhomirov in ClickHouse не тормозит
Dj
попробуйте спиллить на диск

SELECT UserID, COUNT(*) as c FROM Statistic GROUP BY UserID ORDER BY c DESC LIMIT 100
SETTINGS max_bytes_before_external_group_by=10000000000;
Сработало, спасибо, а можете подсказать, как правильно сделать MATERIALIZED VIEW, так как эта информация желательно, что бы обновлялась сама
источник

D

Dj in ClickHouse не тормозит
Nikita Tikhomirov
Сработало, спасибо, а можете подсказать, как правильно сделать MATERIALIZED VIEW, так как эта информация желательно, что бы обновлялась сама
https://www.youtube.com/watch?t=7596&v=1LVJ_WcLgF8
тут все поясняется что и как
источник

NT

Nikita Tikhomirov in ClickHouse не тормозит
Thnx
источник

M

Mishanya in ClickHouse не тормозит
Здравствуйте! Подскажите, пожаулйста.

Есть такие конструкции

create view my_view as select…. которая возвращает одно число, create view calc_view as select col * my_view from some_table - будет ли во втором случае my_view вычисляться каждый раз для каждой строки, либо же лучше просто обернуть в with ? create view calc_view as with my_view as some_value select col * some_value from some_table
источник

I

Ilya in ClickHouse не тормозит
Подскажите как понять сколько ресурсов  потребляет Materialised view?
источник

BN

Bedretdinov Nadir in ClickHouse не тормозит
query_thread_log - сожрал 120GB как можно ограничить логирование
источник

S

Slach in ClickHouse не тормозит
Ilya
Подскажите как понять сколько ресурсов  потребляет Materialised view?
SELECT * FROM system.query_log

MATERIALIZED VIEW это триггер который работает с блоком данных который вставляется в таблицу которая в SELECT .. FROM указана
источник

D

Dj in ClickHouse не тормозит
Bedretdinov Nadir
query_thread_log - сожрал 120GB как можно ограничить логирование
источник

S

Slach in ClickHouse не тормозит
Bedretdinov Nadir
query_thread_log - сожрал 120GB как можно ограничить логирование
ENGINE переопределите
/etc/clickhouse-server/config.d/query_thread_log.xml

<yandex>
<query_thread_log>
   <database>system</database>
   <table>query_thread_log</table>
   <partition_by>toMonday(event_date)</partition_by>
    <engine>Engine = MergeTree PARTITION BY event_date ORDER BY event_time TTL event_date + INTERVAL 7 DAY</engine>
   <flush_interval_milliseconds>7500</flush_interval_milliseconds>
</query_thread_log>
</yandex>

после этого отредактируйте
/var/lib/clickhouse/medata/system/query_thread_log.sql
и добавьте TTL там
после этого рестартуйте сервер
источник

BN

Bedretdinov Nadir in ClickHouse не тормозит
А таблицу то как почистить ) ?
источник

L

L-dar in ClickHouse не тормозит
Всем привет. Почему не работает агрегатная функция groupArray(DISTINCT x), в доке написано, в кликхаусе говорит нет такого
источник

S

Slach in ClickHouse не тормозит
Bedretdinov Nadir
А таблицу то как почистить ) ?
ALTER TABLE ... DELETE WHERE ...
или
TRUNCATE TABLE
если вы этими данными не пользуетесь
источник

BN

Bedretdinov Nadir in ClickHouse не тормозит
Bedretdinov Nadir
А таблицу то как почистить ) ?
Так вот выдает ошыбку не дает почистить
источник

BN

Bedretdinov Nadir in ClickHouse не тормозит
Если через катсоль дропнуть файл таблицы ничего не сломаеться ?
источник

AK

Anton Khokhrin in ClickHouse не тормозит
Bedretdinov Nadir
Так вот выдает ошыбку не дает почистить
Ну вам же сообщение говорит, что мешает.
Поправьте настройку или файл
источник

S

Slach in ClickHouse не тормозит
Bedretdinov Nadir
Так вот выдает ошыбку не дает почистить
ну так прочитайте что в ошибке написано

чтобы не грохнули данные важные случайно

TRUNCATE TABLE system.query_thread_log SETINGS max_table_size_to_drop=0
сделайте если не пользуетесь данными
источник