Size: a a a

ClickHouse не тормозит

2020 September 25

l

lnuynxa in ClickHouse не тормозит
Vladimir Mihailenco
что можно поковырять чтобы кликхаус работал на сервере с небольшим RAM?
пока пробовал max_concurrent_queries, background_pool_size, number_of_free_entries_in_pool_to_lower_max_size_of_merge, number_of_free_entries_in_pool_to_execute_mutation
что-нибудь еще имеет смысл смотреть? CH 20.9.2.20
mark_cache_size
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Vladimir Mihailenco
для меня 4gb
mark_cache_size=512MB
mlock_executable false

своп 16 ГБ
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
:) я его прям сейчас убрал
источник

CO

Chern Oleksander in ClickHouse не тормозит
а подскажите пожалуйста, как победить
cast(coalesce(p.done_date,0) as date) between date_add(toStartOfMonth(now()), INTERVAL -1 MONTH) and toStartOfMonth(now())-1
в этом поле есть NULL, как обойти ?
Спасибо
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Vladimir Mihailenco
:) я его прям сейчас убрал
кого его?
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
swapfile
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
я ставлю max_server_memory_usage_to_ram_ratio = 2
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Vladimir Mihailenco
swapfile
падать будет по ООМ без свопа и 4 ГБ
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
потому что кликхаус иначе пишет что  Memory limit (total) exceeded
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
и все нормально работает 90% времени пока он реально не начинает использвать swap
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Chern Oleksander
а подскажите пожалуйста, как победить
cast(coalesce(p.done_date,0) as date) between date_add(toStartOfMonth(now()), INTERVAL -1 MONTH) and toStartOfMonth(now())-1
в этом поле есть NULL, как обойти ?
Спасибо
or p.done_date is null
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
по-моему пытаясь сделать какой-то мерж
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
и из-за свапа все начинает тормозить
OOM без swap пока не было
но спасибо за совет - буду пробовать
источник

CO

Chern Oleksander in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
or p.done_date is null
неа, дату из datetime нужно ж всёравно перевести в date
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Vladimir Mihailenco
по-моему пытаясь сделать какой-то мерж
rows to merge надо уменьшить до 512
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Chern Oleksander
неа, дату из datetime нужно ж всёравно перевести в date
и что это меняет в моем ответе?
источник

CO

Chern Oleksander in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
и что это меняет в моем ответе?
я тогда вас не понял
вот весь селект
   SELECT p.user_id,
          sum(p.amount) / 100 dep_amount_lastmonth
   FROM user_payments p
   WHERE p.type = 'payin'
     AND p.status = 'done'
     AND cast(p.done_date as date) between date_add(toStartOfMonth(now()), INTERVAL -1 MONTH) and toStartOfMonth(now())-1 /*prev full month*/
       or p.done_date is null
   GROUP BY p.user_id
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Chern Oleksander
я тогда вас не понял
вот весь селект
   SELECT p.user_id,
          sum(p.amount) / 100 dep_amount_lastmonth
   FROM user_payments p
   WHERE p.type = 'payin'
     AND p.status = 'done'
     AND cast(p.done_date as date) between date_add(toStartOfMonth(now()), INTERVAL -1 MONTH) and toStartOfMonth(now())-1 /*prev full month*/
       or p.done_date is null
   GROUP BY p.user_id
ну так скобочки надо ставить and ( or )  and

       AND (toDate(p.done_date) between date_add(toStartOfMonth(now()), INTERVAL -1 MONTH) and toStartOfMonth(now())-1 /*prev full month*/
         or p.done_date is null )
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Vladimir Mihailenco
по-моему пытаясь сделать какой-то мерж
источник

VM

Vladimir Mihailenco in ClickHouse не тормозит
спасибо
источник