Size: a a a

ClickHouse не тормозит

2020 July 10

Y

YR in ClickHouse не тормозит
так попробую! Спасибо за совет👍
источник

АК

Антон Куляшов... in ClickHouse не тормозит
@den_crane Привет! Вчерашнюю проблему несоответствия index_granularity_bytes решили добавлением в конфиг кх enable_mixed_granularity_parts=1. Вдруг кому пригодится.
источник

RO

Required Optional in ClickHouse не тормозит
Required Optional
"Если индекс появился в метаданных, то он начнет считаться в последующих слияниях и записях в таблицу, а не сразу после выполнения операции ALTER. " Вот это блин совсем не понятно. Вернее понятно, что начнет ситать при новых слияниях, но не понятно добавка индекса запустит ли эти слияния в фоновом режиме или его нужно форсировать путем OPTIMIZE... Посмотрел на разных языках, это что-то... В английском и французском вообще эта фраза отсутствует...
@den_crane А можно получить ваши комментарии, на данный вопрос?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Required Optional
@den_crane А можно получить ваши комментарии, на данный вопрос?
>надо проводить дополнительные танцы с бубнами типа OPTIMIZE TABLE ... FINAL?
надо с бубном, индекс будет создаваться только на новых партах
вроде были
ALTER TABLE test.minmax_idx MATERIALIZE INDEX idx IN PARTITION 1;
ALTER TABLE test.minmax_idx CLEAR INDEX idx IN PARTITION 1

>По идее при массивной вставке в таблицу регрессии в темпе вставки данных не обнаруженно
Индексы создаются синхронно при создании парта.
Парты в КХ иммьютебл. Если создан, то уже не изменяется. Индексы хранятся внутри партов в файлах.


Вы вообще тестили? Индексы не помогают в 99.99999999% случаев. Потому что skip индексы это не то что вы думаете.
источник

RO

Required Optional in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
>надо проводить дополнительные танцы с бубнами типа OPTIMIZE TABLE ... FINAL?
надо с бубном, индекс будет создаваться только на новых партах
вроде были
ALTER TABLE test.minmax_idx MATERIALIZE INDEX idx IN PARTITION 1;
ALTER TABLE test.minmax_idx CLEAR INDEX idx IN PARTITION 1

>По идее при массивной вставке в таблицу регрессии в темпе вставки данных не обнаруженно
Индексы создаются синхронно при создании парта.
Парты в КХ иммьютебл. Если создан, то уже не изменяется. Индексы хранятся внутри партов в файлах.


Вы вообще тестили? Индексы не помогают в 99.99999999% случаев. Потому что skip индексы это не то что вы думаете.
спасибо большое. Не я тестю, я помогаю :) народ думает оптимизировать запрос в рамках существующей таблицы...
источник

RO

Required Optional in ClickHouse не тормозит
В общем, если финальная оптимизация таблицы пересоздает парты, то и индексы так же должна. Только мне кажется парты могут перемержится при вставке?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Required Optional
В общем, если финальная оптимизация таблицы пересоздает парты, то и индексы так же должна. Только мне кажется парты могут перемержится при вставке?
мержи создают новые парты, поэтому да индексы создаются.
Проблема в другом, как создать индекс если перемержить невозможно, потому что мерж займет два месяца.
Поэтому либо ALTER TABLE test.minmax_idx MATERIALIZE INDEX , но я не помню работает это или нет, либо alter update col=col
источник

RO

Required Optional in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
мержи создают новые парты, поэтому да индексы создаются.
Проблема в другом, как создать индекс если перемержить невозможно, потому что мерж займет два месяца.
Поэтому либо ALTER TABLE test.minmax_idx MATERIALIZE INDEX , но я не помню работает это или нет, либо alter update col=col
а если индекс многоколоночный?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Required Optional
а если индекс многоколоночный?
все равно он запишется, при апдейте.

но вы занимаетесь ненужной херней, легко проверить что индекс не работает, наинсертив 100млн. в новую таблицу
источник

RO

Required Optional in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
все равно он запишется, при апдейте.

но вы занимаетесь ненужной херней, легко проверить что индекс не работает, наинсертив 100млн. в новую таблицу
у нас тут один кулибин потестил на одной дате и сказал, что есть прирост производительности в  пару раз... Так вот продакт мэнэжэр тестит, а я типа сопровождаю...
источник

K

Kid in ClickHouse не тормозит
Добрый вечер. Возник такой вопрос:
В доке сказано что при FREEZE создаются жесткие ссылки на данные в этой таблице.
Получается он создает ссылки на живые данные?
А если их удалят, как будет себя чувствовать файл, который лежит в shadow? Я же смогу его восстановить? Немного не понимаю как это работает.
Как я понял, что если удалил те  данные после фриза, то эти ссылки должны вести вникуда, или как?
источник

S

Slach in ClickHouse не тормозит
Kid
Добрый вечер. Возник такой вопрос:
В доке сказано что при FREEZE создаются жесткие ссылки на данные в этой таблице.
Получается он создает ссылки на живые данные?
А если их удалят, как будет себя чувствовать файл, который лежит в shadow? Я же смогу его восстановить? Немного не понимаю как это работает.
Как я понял, что если удалил те  данные после фриза, то эти ссылки должны вести вникуда, или как?
вы как работает в linux - file hard links понимаете?
что такое inode понимаете?

в общем нормально будет чувствовать себя файл в shadow , потому что никакой "оригинальный файл" не удалится
https://rtfm.co.ua/unix-chto-takoe-symlink-hardlink-i-inode/
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Kid
Добрый вечер. Возник такой вопрос:
В доке сказано что при FREEZE создаются жесткие ссылки на данные в этой таблице.
Получается он создает ссылки на живые данные?
А если их удалят, как будет себя чувствовать файл, который лежит в shadow? Я же смогу его восстановить? Немного не понимаю как это работает.
Как я понял, что если удалил те  данные после фриза, то эти ссылки должны вести вникуда, или как?
У файла может быть несколько жёстких ссылок: в таком случае он будет фигурировать на диске одновременно в различных каталогах или под различными именами в одном каталоге. При редактировании файла через одну из ссылок на него, содержимое по другим ссылкам тоже изменится.
https://ru.wikipedia.org/wiki/%D0%96%D1%91%D1%81%D1%82%D0%BA%D0%B0%D1%8F_%D1%81%D1%81%D1%8B%D0%BB%D0%BA%D0%B0
источник
2020 July 11

F🚜

Felixoid 🚜🇩🇪... in ClickHouse не тормозит
Скажите, а я правильно понимаю, что получить конфиг зукипера изнутри сервера не получится? То есть, адреса хостов zk из системных таблиц или функций не достать?
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
SELECT value
FROM system.zookeeper
WHERE (path = '/zookeeper') AND (name = 'config')
источник

КТ

Константин Трофимов... in ClickHouse не тормозит
это не совсем из конфига кх, и не обязательно по этому пути кх получит доступ, но если инсталляция плюс минус типичная и не накручено авторизации на зк и в конфиге кх все ноды зукипер кластера... ну вы получите запросом этим то что хотите, только не из мозгов кх, а из мозгов уже самого зк
источник

KM

Konstantin Malanchev in ClickHouse не тормозит
Доброе утро!
Подскажите, как создать Aggregated Materialized View с указанием кодеков? В документации не нашел способа создать таблицу из запроса с указанием кодеков
https://clickhouse.tech/docs/en/engines/table-engines/mergetree-family/aggregatingmergetree/#example-of-an-aggregated-materialized-view
источник

K

Kid in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
У файла может быть несколько жёстких ссылок: в таком случае он будет фигурировать на диске одновременно в различных каталогах или под различными именами в одном каталоге. При редактировании файла через одну из ссылок на него, содержимое по другим ссылкам тоже изменится.
https://ru.wikipedia.org/wiki/%D0%96%D1%91%D1%81%D1%82%D0%BA%D0%B0%D1%8F_%D1%81%D1%81%D1%8B%D0%BB%D0%BA%D0%B0
Тогда как работает FREEZE в таком случаем, то есть я сделал freeze партиции, все это попалов shadow. Далее я беру и удаляю данные из партиции, или просто партицию целиком. Что случится с тем, что оказалось в shadow? Как я понял, то ссылка будет на несуществующий файл или неполный файл. Или я не прав?
источник

K

Kid in ClickHouse не тормозит
Почему он будет себя чувствовать нормально, если оригинальную партицию изменили или удалили?
источник

F

Faxriddin in ClickHouse не тормозит
источник