Size: a a a

ClickHouse не тормозит

2020 June 01

S

Slach in ClickHouse не тормозит
Dmitry Titov
те хочешь воcпользоватся  internal_replication='false'?
так, кажется я понял, таблицы у меня не реплицированные
обычный MergeTree

стоит в настройках Для шарда
<internal_replication>true</internal_replication>
источник

DT

Dmitry Titov in ClickHouse не тормозит
Slach
так, кажется я понял, таблицы у меня не реплицированные
обычный MergeTree

стоит в настройках Для шарда
<internal_replication>true</internal_replication>
ну это значит, что дистрибьютед движок не будет пытаться рассылать один и тот же блок данных на реплики
источник

DT

Dmitry Titov in ClickHouse не тормозит
ты ведь создал 1 шард и 2 реплики. а не 2 шарда по 1 реплике?
источник

S

Slach in ClickHouse не тормозит
да, я создал один шард, две реплики...
ок. понял, надо два шарда по 1й реплике, спасибо
источник

S

Slach in ClickHouse не тормозит
Dmitry Titov
ты ведь создал 1 шард и 2 реплики. а не 2 шарда по 1 реплике?
так, попробовал 2 шарда с 1 репликой в каждом
distributed таблица создается с ключом шардирования
то есть часть данных должны скармливаться в MergeTree а часть данных должны складываться как DelayedDistributedFiles
разве нет?

вставка идет без проблем
чтение из distributed таблицы обрывается в клиенте

DB::NetException: Connection refused (shard-0-0:9000)
этот хост выключен

вроде ожидаемое поведение


но я не понимаю, почему  DistributedFilesToInsert
все время 0
;(
источник

DT

Dmitry Titov in ClickHouse не тормозит
Slach
так, попробовал 2 шарда с 1 репликой в каждом
distributed таблица создается с ключом шардирования
то есть часть данных должны скармливаться в MergeTree а часть данных должны складываться как DelayedDistributedFiles
разве нет?

вставка идет без проблем
чтение из distributed таблицы обрывается в клиенте

DB::NetException: Connection refused (shard-0-0:9000)
этот хост выключен

вроде ожидаемое поведение


но я не понимаю, почему  DistributedFilesToInsert
все время 0
;(
skip_unavailable_shards=1 настроечка, что бы скипать недоступные шарды и не кидать эксепшен
источник

DT

Dmitry Titov in ClickHouse не тормозит
а какие значения принимает test?
источник

S

Slach in ClickHouse не тормозит
Dmitry Titov
а какие значения принимает test?
ну как и положено нечетные
SELECT * FROM default.test LIMIT 10;

┌──────────event_time─┬─test─┐
│ 2020-06-01 11:53:50 │    1 │
│ 2020-06-01 11:53:50 │    3 │
│ 2020-06-01 11:53:50 │    5 │
│ 2020-06-01 11:53:50 │    7 │
│ 2020-06-01 11:53:50 │    9 │
│ 2020-06-01 11:53:50 │   11 │
│ 2020-06-01 11:53:50 │   13 │
│ 2020-06-01 11:53:50 │   15 │
│ 2020-06-01 11:53:50 │   17 │
│ 2020-06-01 11:53:50 │   19 │
└─────────────────────┴──────┘
источник

DT

Dmitry Titov in ClickHouse не тормозит
Slach
ну как и положено нечетные
SELECT * FROM default.test LIMIT 10;

┌──────────event_time─┬─test─┐
│ 2020-06-01 11:53:50 │    1 │
│ 2020-06-01 11:53:50 │    3 │
│ 2020-06-01 11:53:50 │    5 │
│ 2020-06-01 11:53:50 │    7 │
│ 2020-06-01 11:53:50 │    9 │
│ 2020-06-01 11:53:50 │   11 │
│ 2020-06-01 11:53:50 │   13 │
│ 2020-06-01 11:53:50 │   15 │
│ 2020-06-01 11:53:50 │   17 │
│ 2020-06-01 11:53:50 │   19 │
└─────────────────────┴──────┘
и папка /data/default/d_test/ пустая?
источник

S

Slach in ClickHouse не тормозит
так

очень интересно
SELECT
   event_time,
   CurrentMetric_DistributedFilesToInsert
FROM system.metric_log
WHERE CurrentMetric_DistributedFilesToInsert > 0

┌──────────event_time─┬─CurrentMetric_DistributedFilesToInsert─┐
│ 2020-06-01 12:02:42 │                                    350 │
│ 2020-06-01 12:06:13 │                                    137 │
└─────────────────────┴────────────────────────────────────────┘


оно значит не все время 0
источник

DT

Dmitry Titov in ClickHouse не тормозит
Slach
так

очень интересно
SELECT
   event_time,
   CurrentMetric_DistributedFilesToInsert
FROM system.metric_log
WHERE CurrentMetric_DistributedFilesToInsert > 0

┌──────────event_time─┬─CurrentMetric_DistributedFilesToInsert─┐
│ 2020-06-01 12:02:42 │                                    350 │
│ 2020-06-01 12:06:13 │                                    137 │
└─────────────────────┴────────────────────────────────────────┘


оно значит не все время 0
ну это возможно те файлики, что вставлялись в живой шард
источник

S

Slach in ClickHouse не тормозит
нет, сейчас папка не пустая...
но при этом gauge показывает 0
я не понимаю
источник

S

Slach in ClickHouse не тормозит
Dmitry Titov
ну это возможно те файлики, что вставлялись в живой шард
нет, шард не мог подняться, вставка начинается строго после того как первый шард гасится
источник

DT

Dmitry Titov in ClickHouse не тормозит
Slach
нет, шард не мог подняться, вставка начинается строго после того как первый шард гасится
ну я имею в виду локальный шард
источник

DT

Dmitry Titov in ClickHouse не тормозит
он же тоже через дистрибьютед вставляется
источник

S

Slach in ClickHouse не тормозит
там 471 .bin файл лежит

ls -la /var/lib/clickhouse/data/default/test_distr/default\@chi%2Dtest%2Dcluster%2Dfor%2Dalerts%2Ddefault%2D0%2D0\:9000/ | wc -l
471
источник

S

Slach in ClickHouse не тормозит
выглядит как баг в метрике
источник

RT

Roman Tarasov in ClickHouse не тормозит
всем привет!
возможно кто то сталкивался
на прошлой неделе обновили мускул до 8 версии
не знаю точно ли с обновлением связано но
обнаружили что внешние словари странно теперь себя ведут

2020.05.29 04:23:19.459080 [ 53376 ] {} <Error> ExternalDictionariesLoader: Could not update external dictionary 'g_hits_1', leaving the previous version, next update is scheduled at 2020-05-29 04:23:34: Poco::Exception. Code: 1000, e.code() = 0, e.displayText() = Exception: Connections to all replicas failed: database@mysql_host:3306 as user clickhouse, Stack trace (when copying this message, always include the lines below)

при неудачно попытке обновление шедулится но так и не выполняется и словари протухают
если выполнить SYSTEM RELOAD DICTIONARIES обновится и сразу фризится, повторных попыток нет
ClickHouse server version 20.3.8 revision 54433
источник

B

Bear in ClickHouse не тормозит
Всем доброго дня! Ставлю параметр в КЛ "set optimize_move_to_prewhere = 0;" проверяю "select name,value from system.settings;"  стоит, но запрос все еще не работает, делаю рестарт, сбрасывается снова в "1", прописываю через config.xml "<optimize_move_to_prewhere>0</optimize_move_to_prewhere>" рестартую, ноль реакции. Server v20.4 client 20.4
Кто знает, кто сталкивался посоветуйте, что не так, пожалуйста
источник

A

Andrey in ClickHouse не тормозит
Bear
Всем доброго дня! Ставлю параметр в КЛ "set optimize_move_to_prewhere = 0;" проверяю "select name,value from system.settings;"  стоит, но запрос все еще не работает, делаю рестарт, сбрасывается снова в "1", прописываю через config.xml "<optimize_move_to_prewhere>0</optimize_move_to_prewhere>" рестартую, ноль реакции. Server v20.4 client 20.4
Кто знает, кто сталкивался посоветуйте, что не так, пожалуйста
optimize_move_to_prewhere - нужно прописывать в users.xml
источник