Size: a a a

ClickHouse не тормозит

2021 March 17

D

Danil in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
какой буфер?
Сейчас обычный create buffer(db, table, ...)
Точные значения размеров и таймаутов на память не скажу
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Danil
Сейчас обычный create buffer(db, table, ...)
Точные значения размеров и таймаутов на память не скажу
ну ОК и что сейчас  Buffer -> Null -> MV -> mergtrtee_таблица ?

ну и должно быть все хорошо. Поставьте чтобы Buffer меньше 10тыс. записей не сбрасывал
источник

SC

Sergey Churin in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
use_minimalistic_part_header_in_zookeeper 1 очень давно включен по дефолту.

>И тут писали, что старые партиции сами не меняют формат на компактный. И Алексей какую-то конвертилку упоминал
любой альтер конвертирует все парты. alter add column или alter update
тем более optimize
У нас версия давнее) Апдейт запланирован, но не сейчас. Ок попробуем алтером
источник

Otabek Μansurov in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
вы из мира mysql ?

вместо
timestamp,
status,


вам тогда
any(timestamp),
any(status),
Да из того мира. В этот мир я недавно поэтому ещё недостаточно знаю некоторые моменты.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Sergey Churin
У нас версия давнее) Апдейт запланирован, но не сейчас. Ок попробуем алтером
ну какая у вас версия?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Otabek Μansurov
Да из того мира. В этот мир я недавно поэтому ещё недостаточно знаю некоторые моменты.
mysql разрешает делать очень плохую гадость, там очень нестандартный sql

select a, sum(b)
from
без group by

в остальном SQL мире будет ошибка, поле a не в group by

mysql в этому случае просто делает

select any( a ), sum(b)
from
источник

SC

Sergey Churin in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
ну какая у вас версия?
19.14.6.12. Настройка выключена была
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Sergey Churin
19.14.6.12. Настройка выключена была
вы какую проблему решаете? Обычно use_minimalistic_part_header_in_zookeeper помогает если у вас сотни серверов КХ
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Sergey Churin
19.14.6.12. Настройка выключена была
рестарт КХ был?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
19.14.6.12 -- можно сделать alter table delete where 0 , он пересоздаст все парты (в зукипере
источник

D

Danil in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
ну ОК и что сейчас  Buffer -> Null -> MV -> mergtrtee_таблица ?

ну и должно быть все хорошо. Поставьте чтобы Buffer меньше 10тыс. записей не сбрасывал
Сейчас я ещё на Null + MV не переделал, но планирую.
Потому и возник вопрос нужно ли оставлять буфер или можно в такой схеме без него обойтись.
И если добавлять буфер, то перед Null или между MV и конечной таблицей?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Danil
Сейчас я ещё на Null + MV не переделал, но планирую.
Потому и возник вопрос нужно ли оставлять буфер или можно в такой схеме без него обойтись.
И если добавлять буфер, то перед Null или между MV и конечной таблицей?
MV триггерится каждым инсертом. По одной строке вставлять нельзя.

Лучше делать Buffer -> Null -> MV -> mergtrtee_таблица
чтобы было меньше вызовов MV
источник

ПБ

Повелитель Бури... in ClickHouse не тормозит
И еще вопрос: кто как работает с s3 ? Примаунтить диск через s3fs или как внешнюю функцию?
источник

DT

Dmitry Titov in ClickHouse не тормозит
s3fs как то грустно показалось, s3 table function пободрее должно быть
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Dmitry Titov
s3fs как то грустно показалось, s3 table function пободрее должно быть
Кстати Алексей в github написал что хранение партов на S3  экспериментальная штука и ни в коем случае на проде пользоваться нельзя
источник

ПБ

Повелитель Бури... in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
<networks incl="networks" replace="replace">
               <ip>::1</ip>
               <ip>127.0.0.1</ip>

это про доступ с ip клиента, а не про то какой ip cлушать серверу
Извините не совсем понял. Я хочу этому дать возможность подключаться этим пользователем со всех машин. На уровне сервера listen  host прописан "::"
Пока не прописал в user не подключался к серверу
источник

DT

Dmitry Titov in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
Кстати Алексей в github написал что хранение партов на S3  экспериментальная штука и ни в коем случае на проде пользоваться нельзя
Вообще я так понимаю, что яндекс клауд уже экспериментирует над пользователями ( гибридного хранилища)
https://cloud.yandex.ru/docs/managed-clickhouse/operations/cluster-create
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Повелитель Бури
Извините не совсем понял. Я хочу этому дать возможность подключаться этим пользователем со всех машин. На уровне сервера listen  host прописан "::"
Пока не прописал в user не подключался к серверу
исторически

<default>
           <password></password> -- пустой пароль

           <networks incl="networks" replace="replace">
               <ip>::1</ip>
               <ip>127.0.0.1</ip> --- но доступ разрешен только с локалхоста
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
0:0:0:0 -- это слушать все адреса это для listen_host
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
если вам надо разрешить отовсюду, то просто удалите  <ip>::1</ip><ip>127.0.0.1</ip>
источник