Size: a a a

ClickHouse не тормозит

2020 May 25

A

Andrey in ClickHouse не тормозит
Vladimir Bunchuk
ну у меня прям легкие запросы не выполняются — падают по памяти
а с какой ошибкой?
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Andrey
а с какой ошибкой?
DB::Exception: Memory limit (total) exceeded: would use 113.00 GiB (attempt to allocate chunk of 5242880 bytes), maximum: 112.99 GiB.
источник

SA

Sergei Alekseev in ClickHouse не тормозит
Добрый день! субъективно при переходе с 19.16.x на 20.4.x просело время выполнения запросов. Никто не замечал? Есть ли смысл собирать самому КХ? Может через пакет чего-то лишнего или более универсально в ущерб производительности? И по поводу системы пермишеннов в КХ, как-то это все можно при сборке отключать, чтобы не тратить ресурсы на проверку грандов?
источник

AK

Alex Krash in ClickHouse не тормозит
Sergei Alekseev
Добрый день! субъективно при переходе с 19.16.x на 20.4.x просело время выполнения запросов. Никто не замечал? Есть ли смысл собирать самому КХ? Может через пакет чего-то лишнего или более универсально в ущерб производительности? И по поводу системы пермишеннов в КХ, как-то это все можно при сборке отключать, чтобы не тратить ресурсы на проверку грандов?
Относительно ресурсов на обработку запроса (читать данные и производить над ними операции преобразования) операции ACL копеечные
источник

AT

Al T in ClickHouse не тормозит
Sergei Alekseev
Добрый день! субъективно при переходе с 19.16.x на 20.4.x просело время выполнения запросов. Никто не замечал? Есть ли смысл собирать самому КХ? Может через пакет чего-то лишнего или более универсально в ущерб производительности? И по поводу системы пермишеннов в КХ, как-то это все можно при сборке отключать, чтобы не тратить ресурсы на проверку грандов?
попробуйте вот это
The setting experimental_use_processors is enabled by default. This setting enables usage of the new query pipeline. This is internal refactoring and we expect no visible changes. If you will see any issues, set it to back zero.
источник

AT

Al T in ClickHouse не тормозит
выкатили по дефолту с 20.3
источник

A

Alex in ClickHouse не тормозит
разница объема идентичных по колонкам таблиц, аж не верится как то)
источник

ЕА

Егор Андреевич... in ClickHouse не тормозит
Alex
разница объема идентичных по колонкам таблиц, аж не верится как то)
mysql запущенный на freebsd например будет таким же по объему, просто кликхаус использует сжатие нормальное
источник

A

Alex in ClickHouse не тормозит
понял, спасибо
источник

AT

Al T in ClickHouse не тормозит
или колонки низкокардинальные
источник

AT

Al T in ClickHouse не тормозит
сжатие и в mysql можно поставить
источник

MV

M VS in ClickHouse не тормозит
M VS
стриминг прекращается вот с такой ошибкой
2020.05.25 03:13:20.710252 [ 12999 ] {} <Warning> StorageKafka (dau): Logical error. Non all polled messages were processed.
2020.05.25 03:13:20.710282 [ 12999 ] {} <Trace> StorageKafka (dau): Nothing to commit.

Пробовал:
1. Пересоздавать топик в кафке, кафка-table, матвьюхи и таблицу назначения. В итоге спустя несколько часов ошибка повторяется.
2. Читать консьюмером той же версии но на другом хосте, - ошибка не повторяется, и там в течение недели стримится без проблем

20 топиков в этой же базе с этим же источником успешно стримятся.
может недостаточно вводных или деталей? чем предположительно это вылечить?
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
select toStartOfMonth(date) as date, ... etc ... from table where date=today()

так нельзя в where обратиться прям к столбцу date ибо в выборке он будет уже как toStartOfMonth(date)
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
но а если уж очень хочется может как то можно?
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
большое желание (увы, не моё) назвать в выборке начало месяца именно date
и ещё и where по этому столбцу надо
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
по исходному, до применения функции toStartOfMonth()
источник

MK

Max Khlystov in ClickHouse не тормозит
скажите пожалуйста можно ли выбрать из такого сэта строки с минимальным start_year_on_new_place для каждого множества employee_id, company_id
источник

AT

Al T in ClickHouse не тормозит
Константин Трофимов
но а если уж очень хочется может как то можно?
сделать sub-select c where date=XXX ?
источник

AT

Al T in ClickHouse не тормозит
а потом его уже выбирать с функцией toStartOfMonth
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
ммм, это работает
спасибо
источник