Size: a a a

ClickHouse не тормозит

2020 September 18

D

Dj in ClickHouse не тормозит
Denis Efarov
и к делиту нет вопроса. Но без делита этот кейс решается другим образом. А с делитом - возможен вечный dedup
хм, как будет вечный дедуп? дедуп ориентируется вообще только на хеш блоков в зк. можете подробней описать?
т.е. мутация это ДДЛ, который будет реплицирован как задание по другим репликам
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
самоцитата

Мутации сделаны для решения вопросов типа gdpr. Раз в году  темной ночью админ вручную запускает и ждет результата скрестив пальцы, и начинает чинить когда они не завершились.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Во вторых к проблеме это вообще не имеет отношения.
источник

DE

Denis Efarov in ClickHouse не тормозит
документация этого не говорит. Напротив, она говорит, что можно удалять, и это безопасно для дальнейших вставок
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Denis Efarov
документация этого не говорит. Напротив, она говорит, что можно удалять, и это безопасно для дальнейших вставок
и то что  delete не чистит блоки дедупликации, это тоже в доке написано?
источник

DE

Denis Efarov in ClickHouse не тормозит
Dj
хм, как будет вечный дедуп? дедуп ориентируется вообще только на хеш блоков в зк. можете подробней описать?
т.е. мутация это ДДЛ, который будет реплицирован как задание по другим репликам
я описал это в кейсе, как может быть вечный дедап. Вставляете пачку данных, она бьется (неизбежно) на блоки, один блок случайно не вставляется, например из-за сетевых проблем, а все предыдущие попадают в историю дедупликации. После этого повторная вставка той же большой пачки никогда целиком не пройдет
источник

DE

Denis Efarov in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
и то что  delete не чистит блоки дедупликации, это тоже в доке написано?
я нигде не говорил, что мы это ожидали. Для кейса это не нужно
источник

D

Dj in ClickHouse не тормозит
Denis Efarov
я описал это в кейсе, как может быть вечный дедап. Вставляете пачку данных, она бьется (неизбежно) на блоки, один блок случайно не вставляется, например из-за сетевых проблем, а все предыдущие попадают в историю дедупликации. После этого повторная вставка той же большой пачки никогда целиком не пройдет
причем тут delete?
источник

SM

Sergey Mikhalev in ClickHouse не тормозит
Dj
причем тут delete?
Эй, парни, вы там напишите как хотите, баг главное закройте.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
вот и я говорю при чем тут delete , если все воспроизводится без него
источник

S

Slach in ClickHouse не тормозит
Denis Efarov
аналогия неуместна. Документация декларирует, что есть функционал по удалению строк. С чего вдруг он неуместен для бизнес процессов?
потому что в той же документации сказано ЧТО ИМЕННО это за удаление и как именно оно работает
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Sergey Mikhalev
Эй, парни, вы там напишите как хотите, баг главное закройте.
чудак человек, я дба в канаде, DJ в дба турции
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
тут нет разработчиков
источник

DE

Denis Efarov in ClickHouse не тормозит
вы сами подняли речь про delete, заметив его в тикете. Я лишь пояснил, зачем он указан в кейсе. И что для воспроизведения delete не важен
источник

DE

Denis Efarov in ClickHouse не тормозит
Slach
потому что в той же документации сказано ЧТО ИМЕННО это за удаление и как именно оно работает
и ничего из того описания никак не поясняет, почему это непригодно для бизнес процессов. Там лишь указаны детали реализации
источник

DE

Denis Efarov in ClickHouse не тормозит
к delete-нет вопроса
источник

S

Slach in ClickHouse не тормозит
Denis Efarov
и ничего из того описания никак не поясняет, почему это непригодно для бизнес процессов. Там лишь указаны детали реализации
а форвардните если не трудно исходное сообщение или тикет? ;)
что у вас именно происходит
а то я не пойму
то вы несколько 1М блоков вставляете и хотите чтобы вам что-то дедуплицировали
то мутации откуда то сбоку выскакивают ;)
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Slach
а форвардните если не трудно исходное сообщение или тикет? ;)
что у вас именно происходит
а то я не пойму
то вы несколько 1М блоков вставляете и хотите чтобы вам что-то дедуплицировали
то мутации откуда то сбоку выскакивают ;)
https://github.com/ClickHouse/ClickHouse/issues/14999

replicated_deduplication_window_seconds -- работает неочевидно и не совсем так как я описал в доке.
Сам тикет не читайте, только мой STR.
источник

AS

Anthony Shchukin in ClickHouse не тормозит
у, какая прелесть
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Anthony Shchukin
у, какая прелесть
это на самом деле минорная проблема , которую никто никогда не будет чинить, скорее всего я разберусь со временем с дизайном и опишу это в доке (по сути это не баг, это просто особенности реализации UB)

имхо: с точки зрения меня, дебилоида дровосека и жопы канады
источник