Size: a a a

ClickHouse не тормозит

2020 May 27

D

Dj in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну можно предположить что в партах хорошо жалось потому что лежали рядом одинаковые datetime, и после мержа стало больше места занимать, такое бывает, увеличивается в размере процентов на 5, но на 100% это слишком невероятно, это даже специально такое не сделать
да, у него есть данные даже ) "ловите наркомана"
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
codec(ZSTD) на это поле и еще раз optimize
источник

A

Andrey in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
codec(ZSTD) на это поле и еще раз optimize
Я сейчас запустил optimize final на еще одном стенде, предварительно забекапив парты.
Ща отбежит и попробую кодек накатить.
Но я конечно полностью уверен что с кодеками никто не игрался, таблица еще с 19.* версии создана была.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Andrey
Я сейчас запустил optimize final на еще одном стенде, предварительно забекапив парты.
Ща отбежит и попробую кодек накатить.
Но я конечно полностью уверен что с кодеками никто не игрался, таблица еще с 19.* версии создана была.
дефолтное сжатие задается в .xml
источник

D

Dj in ClickHouse не тормозит
Andrey
Я сейчас запустил optimize final на еще одном стенде, предварительно забекапив парты.
Ща отбежит и попробую кодек накатить.
Но я конечно полностью уверен что с кодеками никто не игрался, таблица еще с 19.* версии создана была.
так про zstd же, хотя бы сравнить...
https://t.me/clickhouse_ru/163066
источник

A

Andrey in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
дефолтное сжатие задается в .xml
Вот так в конфиге. Т.е на протяжении всего времени было все по дефолту
источник

A

Andrey in ClickHouse не тормозит
да, ща мерж отбежит, буду пробовать
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Andrey
Вот так в конфиге. Т.е на протяжении всего времени было все по дефолту
а как было до апгрейда?
источник

A

Andrey in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
а как было до апгрейда?
Так же и было. Это прям дефолтный конфиг. Там только listen_host менялся за все время
источник

D

Dj in ClickHouse не тормозит
я так понял проблема была и до апгрейда, либо неизвестно была ли она до апгрейда...
источник

D

Dj in ClickHouse не тормозит
Andrey
Там самый прикол в том что после OPTIMIZE FINAL активные парты стали занимать сильно больше места.


До optimize final
202004 event_datetime 14949814777  13.90 GiB(сжатых) 55.69 GiB(разжатых)

После optmize final:
202004 event_datetime 14949814777  35.42 GiB(сжатых) 55.69 GiB(разжатых)
может при вставке был zstd, а сменили в сеттингах потом... так тоже бывает, 100% увеличения это надо очень долго спецом долбится с данными )
источник

E

Eugene in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
а как было до апгрейда?
А когда комменты в этой секции пофиксятся?)

Если начать раскомментаривание секции, то выяснится, что дальше неправильные с точки зрения xml комментарии. В <!- - пробелы
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Eugene
А когда комменты в этой секции пофиксятся?)

Если начать раскомментаривание секции, то выяснится, что дальше неправильные с точки зрения xml комментарии. В <!- - пробелы
а еще раз подумать? минуты две
источник

A

Andrey in ClickHouse не тормозит
Dj
я так понял проблема была и до апгрейда, либо неизвестно была ли она до апгрейда...
не известно была ли.
История то вообще какая. Я полез таблицу смотреть, потому что она вышла в топ, и это было не совсем ожидаемо. Ну смотрю, она изменяемая, решил что стоит сделать optimize, потому что могли налить много дубликатов. Прогнал OPTIMIZE FINAL, а она взяла и увеличилась.
источник

A

Andrey in ClickHouse не тормозит
Dj
может при вставке был zstd, а сменили в сеттингах потом... так тоже бывает, 100% увеличения это надо очень долго спецом долбится с данными )
Можно ли вставить через native с недефолтным сжатием?
Конфиги сервера в лпане сжатия никто не правил. Таблицу тоже не пересоздавали.
источник

E

Eugene in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
а еще раз подумать? минуты две
Не понимаю)
Я когда в первый раз столкнулся, удивленно читал в логах сервера, что он не запустился изза некорректного xml.
Это специальная задумка, чтоб жизнь медом не казалась, или тут особый смысл?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Eugene
Не понимаю)
Я когда в первый раз столкнулся, удивленно читал в логах сервера, что он не запустился изза некорректного xml.
Это специальная задумка, чтоб жизнь медом не казалась, или тут особый смысл?
ну а как еще написать комментарий внутри комментария?
источник

E

Eugene in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну а как еще написать комментарий внутри комментария?
А, вот оно что.
Тогда выкинуть высокоуровневый коммент и оставить один case с методом сжатия по умолчанию текущим или none. А каждую из настроек нормально закомментарить )
источник

D

Dj in ClickHouse не тормозит
Andrey
не известно была ли.
История то вообще какая. Я полез таблицу смотреть, потому что она вышла в топ, и это было не совсем ожидаемо. Ну смотрю, она изменяемая, решил что стоит сделать optimize, потому что могли налить много дубликатов. Прогнал OPTIMIZE FINAL, а она взяла и увеличилась.
ладно, добавьте zstd - если уменьшится до начальных партов - значит просто сменили дефолт настройку
источник

D

Dj in ClickHouse не тормозит
Eugene
А, вот оно что.
Тогда выкинуть высокоуровневый коммент и оставить один case с методом сжатия по умолчанию текущим или none. А каждую из настроек нормально закомментарить )
а можно не трогать оригинальный файл, и положить нужную секцию в папочку config.d в кастомный файл...  =)
источник