Size: a a a

ClickHouse не тормозит

2020 July 06

D

Dj in ClickHouse не тормозит
Дмитрий
всем доброго времени суток. Подскажите, пожалуйста, возможно ли и, если возможно, то как это реализуется, с помощью constraint-ов задать ограничение на уникальность значений в столбце в таблице clickhouse?
так прямо чтобы при вставке падало нельзя... постфактум убирать дубликаты батчами можно (CollapsingMT, ReplacingMT, DEDUPLICATE)
источник

Д

Дмитрий in ClickHouse не тормозит
Спасибо
источник

RG

Rinchin G in ClickHouse не тормозит
Всем привет. Подскажите пожалуйста. Пытаюсь понять как в spring boot сделать dbmigration c яндексовским clickhouse?
Попробовал flyway он говорит: FlywayException: Unsupported Database: ClickHouse 20.4
источник

АН

Александр Николаев... in ClickHouse не тормозит
Всем привет, подскажите пожалуйста, параметр max_server_memory_usage_to_ram_ratio устанавливается в процентах ?
источник

D

Dj in ClickHouse не тормозит
Александр Николаев
Всем привет, подскажите пожалуйста, параметр max_server_memory_usage_to_ram_ratio устанавливается в процентах ?
в долях. 0-1
источник

АН

Александр Николаев... in ClickHouse не тормозит
в конфе написано
На серверах с небольшим объёмом RAM и файла подкачки может потребоваться настройка max_server_memory_usage_to_ram_ratio > 1.
источник

АН

Александр Николаев... in ClickHouse не тормозит
на локалке не было проблем
на сервере стал загружать данные
выскакивает
Memory limit (total) exceeded: would use 3.46 GiB (attempt to allocate chunk of 4369746 bytes), maximum: 3.46 GiB
источник

YA

Yuri Alexandrovich in ClickHouse не тормозит
привет, при группировке для большой таблицы clickhouse данные которые на помещаются в память отправляет на диск, на системный диск. Где поменять настройку, чтобы скидывал не на системный диск, а на какой-нибудь другой
источник

D

Dj in ClickHouse не тормозит
Yuri Alexandrovich
привет, при группировке для большой таблицы clickhouse данные которые на помещаются в память отправляет на диск, на системный диск. Где поменять настройку, чтобы скидывал не на системный диск, а на какой-нибудь другой
<tmp_path>/var/lib/clickhouse/tmp/</tmp_path>
источник

YA

Yuri Alexandrovich in ClickHouse не тормозит
спасибо
источник

AE

Alexey Er in ClickHouse не тормозит
Привет.

Планирую экспортировать данные из MySQL в ClickHouse. Вижу, что в КХ встроена нативная работа с Мускулем, но только с отдельными таблицами. Т.е. запрос с джойнами на стороне КХ не сформировать, надо вьюху делать?
источник

l

lnuynxa in ClickHouse не тормозит
Alexey Er
Привет.

Планирую экспортировать данные из MySQL в ClickHouse. Вижу, что в КХ встроена нативная работа с Мускулем, но только с отдельными таблицами. Т.е. запрос с джойнами на стороне КХ не сформировать, надо вьюху делать?
database engine = mysql смотрел?
источник

D

Dj in ClickHouse не тормозит
Александр Николаев
на локалке не было проблем
на сервере стал загружать данные
выскакивает
Memory limit (total) exceeded: would use 3.46 GiB (attempt to allocate chunk of 4369746 bytes), maximum: 3.46 GiB
Проверяйте все параметры связанные с мемори....
источник

AE

Alexey Er in ClickHouse не тормозит
lnuynxa
database engine = mysql смотрел?
Да, но невнимательно: похоже, ограничений по запросам там не заявлено.
Спасибо.
источник

AE

Alexey Er in ClickHouse не тормозит
А это вообще нормально, средствами Кликхауса забирать срез свежих данных из внешней БД?
источник

IS

Ivan S in ClickHouse не тормозит
Привет!
Посоветуйте пожалуйста, как оптимальнее всего написать запрос с такой фильтрацией:
Нужно оставить записи, начиная с некоторого события по каждому пользователю.
Например, начиная с посещения определенного URL.

Прямолинейный подход - написать подзапрос, который будет считать время для каждого пользователя, а потом join с основной таблицей и фильтрация по времени - на крайний случай.
Может есть варианты без join-а?
источник

DV

Dmitry Vasiliev in ClickHouse не тормозит
SELECT
   time AS Time,
   pod AS Pod,
   log AS Log
FROM logs
WHERE (time >= toDateTime(1594028956)) AND if('%' = '%', 1 = 1, host = ‘%’)


умеет ли оптимизатор понимать такие запросы (будет ли проверятся условие if для каждой строки или на жтапе оптимизации отбросятся)?
источник

l

lnuynxa in ClickHouse не тормозит
Ivan S
Привет!
Посоветуйте пожалуйста, как оптимальнее всего написать запрос с такой фильтрацией:
Нужно оставить записи, начиная с некоторого события по каждому пользователю.
Например, начиная с посещения определенного URL.

Прямолинейный подход - написать подзапрос, который будет считать время для каждого пользователя, а потом join с основной таблицей и фильтрация по времени - на крайний случай.
Может есть варианты без join-а?
есть, как минимум через GROUP BY, но не уверен, что он будет лучше
источник

IS

Ivan S in ClickHouse не тормозит
lnuynxa
есть, как минимум через GROUP BY, но не уверен, что он будет лучше
Имеешь в виду собрать все в массив, а потом фильтровать записи в массиве?
источник

l

lnuynxa in ClickHouse не тормозит
Ivan S
Имеешь в виду собрать все в массив, а потом фильтровать записи в массиве?
да
источник