Size: a a a

ClickHouse не тормозит

2020 May 25

АФ

Алишер Фозилов... in ClickHouse не тормозит
Егор Андреевич
 Тот редкий случай когда наши сделали что то очень хорошее
а ты следишь за тем что делают наши в it? кажется что нет
а как лучше всего следить? да и в целом в курсе всего самого нового в IT как быть?
источник

A

Alex in ClickHouse не тормозит
я ничего дургого не имел ввиду. что за дет. сад
источник

ЕА

Егор Андреевич... in ClickHouse не тормозит
Алишер Фозилов
а как лучше всего следить? да и в целом в курсе всего самого нового в IT как быть?
ну в целом можно следить за новостями, развитием тех инструментов, которыми пользуешься
источник

A

Alex in ClickHouse не тормозит
Егор Андреевич
понятно,
чукча не читатель, чукча - писатель
очень похоже, судя по тому как ты отвечаешь
источник

MV

M VS in ClickHouse не тормозит
стриминг прекращается вот с такой ошибкой
2020.05.25 03:13:20.710252 [ 12999 ] {} <Warning> StorageKafka (dau): Logical error. Non all polled messages were processed.
2020.05.25 03:13:20.710282 [ 12999 ] {} <Trace> StorageKafka (dau): Nothing to commit.

Пробовал:
1. Пересоздавать топик в кафке, кафка-table, матвьюхи и таблицу назначения. В итоге спустя несколько часов ошибка повторяется.
2. Читать консьюмером той же версии но на другом хосте, - ошибка не повторяется, и там в течение недели стримится без проблем

20 топиков в этой же базе с этим же источником успешно стримятся.
источник

A

Andrey in ClickHouse не тормозит
Alex
Привет. Разобрался я с кликхаус. Во истину крутая бд. Тот редкий случай когда наши сделали что то очень хорошее)) Вот небольшой бенчмарк который я провел) Тесты были на таблицу в 136 миллионов строк. Mysql таблица на движке InnoDB
источник

A

Alex in ClickHouse не тормозит
Да, спасибо
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Ребят, привет! Кто-то сталкивался с таким?
После попытки выполнить большой зпрос, который не влез в память, заметил что память остаётся занятой и дальше и не особо освобождается. SHOW PROCESSLIST не показывает никаких висящих запросов
источник

S

Shazo in ClickHouse не тормозит
Какая именно память?
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
RAM
источник

S

Shazo in ClickHouse не тормозит
Я про тип buff,cache, res, virtual?
источник

A

Andrey in ClickHouse не тормозит
Vladimir Bunchuk
Ребят, привет! Кто-то сталкивался с таким?
После попытки выполнить большой зпрос, который не влез в память, заметил что память остаётся занятой и дальше и не особо освобождается. SHOW PROCESSLIST не показывает никаких висящих запросов
На всякий случай покажите вывод free -g
источник

И

Иван in ClickHouse не тормозит
Это известная ситуация, не уверен что это уже починили. https://github.com/ClickHouse/ClickHouse/pull/4277 тут такая же и связанные issue тоже
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Shazo
Я про тип buff,cache, res, virtual?
уф
точно не подскажу, так как нет прямого доступа к прод серверу, только в кх
соберу больше вводных, и если проблема к тому времени не решится — вернусь с ними
спасибо
источник

И

Иван in ClickHouse не тормозит
вот еще пример
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
о, по ходу мой кейс
источник

S

Shazo in ClickHouse не тормозит
Нужно знать что это за память, тип. Это может быть buff/cache и это нормально. Он не вычищается, но если систтеме нужно то освобождается.
источник

И

Иван in ClickHouse не тормозит
вроде это не буфферы и кэш
источник

VB

Vladimir Bunchuk in ClickHouse не тормозит
Shazo
Нужно знать что это за память, тип. Это может быть buff/cache и это нормально. Он не вычищается, но если систтеме нужно то освобождается.
ну у меня прям легкие запросы не выполняются — падают по памяти
источник

A

Andrey in ClickHouse не тормозит
Иван
вроде это не буфферы и кэш
да, тут не кеши
источник