Size: a a a

ClickHouse не тормозит

2020 September 18

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Denis Efarov
Есть возможность это отрепортить и как-то исправить? Поведение очень непредсказуемое, и кажется, не соответствует документации. Мы наткнулись на случай, когда в течение нескольких дней в таблицу вообще ничего не вставлялось без видимых причин
On the next try, the same software drops previously inserted rows

что такое drops previously inserted rows
источник

DE

Denis Efarov in ClickHouse не тормозит
alter table <name> delete where <>
источник

DE

Denis Efarov in ClickHouse не тормозит
удаляет
источник

DE

Denis Efarov in ClickHouse не тормозит
то что было в первой попытке вставлено
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Denis Efarov
то что было в первой попытке вставлено
это сильно неочевидно и неправильно по меркам КХ. Вы просто должны повторять сбойные инсерты, без никаких alter delete.
источник

DE

Denis Efarov in ClickHouse не тормозит
в steps to reproduce описан способ без всяких удалений
источник

DE

Denis Efarov in ClickHouse не тормозит
я просто подробно описал кейс, на котором мы напоролись на это
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Denis Efarov
я просто подробно описал кейс, на котором мы напоролись на это
удалите тот абзац вообще
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
иначе просто разработчики не будут дальше читать
источник

K

Kid in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
покажите строку со статистикой моего варианта и вашего
1 - после  переписки запроса на то, аналогично вашему примеру
2 - исходных запрос, который падал по памяти
216 rows in set. Elapsed: 68.818 sec. Processed 579.62 million rows, 23.27 GB (8.42 million rows/s., 338.21 MB/s.)
216 rows in set. Elapsed: 24.574 sec. Processed 710.20 million rows, 26.63 GB (28.90 million rows/s., 1.08 GB/s.)
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Kid
1 - после  переписки запроса на то, аналогично вашему примеру
2 - исходных запрос, который падал по памяти
216 rows in set. Elapsed: 68.818 sec. Processed 579.62 million rows, 23.27 GB (8.42 million rows/s., 338.21 MB/s.)
216 rows in set. Elapsed: 24.574 sec. Processed 710.20 million rows, 26.63 GB (28.90 million rows/s., 1.08 GB/s.)
загадочно, чушь какая-то, а если поздапрос который t join t1 какая статистика
источник

DE

Denis Efarov in ClickHouse не тормозит
я не понимаю, что значит "неправильно и неочевидно по меркам КХ". Есть база, мы пользуемся ее документированным функционалом. Каким образом он может быть неожиданным?
источник

DE

Denis Efarov in ClickHouse не тормозит
Я перенесу абзац в доп часть внизу описания, раз у них парсер ломается
источник

S

Slach in ClickHouse не тормозит
@PolitePp
не. это точно не то что нужно, сам искал такую функцию
нужно что то типа
formatReadableSize

но для duration
типа
formatReadableDuration

но тут проблема с локализацией и скорее всего такое придется делать самостоятельно в приложении
какой нибудь timedelta на python может помочь
источник

VK

Vladimir K. in ClickHouse не тормозит
Я из pycharm скопировал битовое представление, типа b'\x....'. Вот ту часть внутри, в общем. И она нормально вставилась. Так что я предположил, что при вставке через питон он делает это как строчку (точ что написал выше),а, значит, появляются лишние символы. Теперь думаю, как передать сырые байты. Пока не придумал)
Но в любом случае спасибо за подсказки. Если что-то получится - сообщу)
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Denis Efarov
я не понимаю, что значит "неправильно и неочевидно по меркам КХ". Есть база, мы пользуемся ее документированным функционалом. Каким образом он может быть неожиданным?
во первых alter delete -- никто не использует для бизнес-процессов.

во вторых сейчас ваш текст выглядит так:

у меня проблема со слухом.
....
Я поковырял в ухе отверткой.


я вам 50 тикетов могу про это показать, ровно как у вас написано.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
если кто-то из разрабов увидит про alter delete они просто не будут дальше читать про дедупликацию
источник

DE

Denis Efarov in ClickHouse не тормозит
аналогия неуместна. Документация декларирует, что есть функционал по удалению строк. С чего вдруг он неуместен для бизнес процессов?
источник

DE

Denis Efarov in ClickHouse не тормозит
в документации сказано, что это опасная нестабильная фича и ее нельзя использовать? вроде нет
источник

DE

Denis Efarov in ClickHouse не тормозит
и пожалуйста, давайте отвечать без нелепых аналогий, это неконструктивно. Я ссылаюсь на публичную документацию, а вы на отвертки в ушах
источник