Size: a a a

ClickHouse не тормозит

2020 July 28

K

Kid in ClickHouse не тормозит
sudo /etc/init.d/clickhouse-server status
Тоже stopped
источник

ИМ

Илья Максимов... in ClickHouse не тормозит
Привет! Дока кх гласит
Если OPTIMIZE применяется к таблицам семейства ReplicatedMergeTree, ClickHouse создаёт задачу на мёрж и ожидает её исполнения на всех узлах (если активирована настройка replication_alter_partitions_sync).

Правильно понимаю что оптимайз прогонится на репликах только? То есть нужно всё таки делать optimize на каждом шарде, а их реплики подтянутся?
источник

Y

Yuran in ClickHouse не тормозит
Илья Максимов
Привет! Дока кх гласит
Если OPTIMIZE применяется к таблицам семейства ReplicatedMergeTree, ClickHouse создаёт задачу на мёрж и ожидает её исполнения на всех узлах (если активирована настройка replication_alter_partitions_sync).

Правильно понимаю что оптимайз прогонится на репликах только? То есть нужно всё таки делать optimize на каждом шарде, а их реплики подтянутся?
Нужно на каждом шарде, если только не делаете OPTIMIZE ... ON CLUSTER
источник

Y

Yuran in ClickHouse не тормозит
(но я не уверен, что optimize on cluster будет работать так, как Вы ожидаете)
источник

Е

Екатерина in ClickHouse не тормозит
Artem Zuikov
Можете сделать пример и issue на гитхабе без зависимости от данных? Какие нибудь селекты из system.numbers limit 10.
отбой, сегодня еще раз все прогнала, вставляет данные из полей правой таблицы, это я, видимо, в прошлый раз с алиасами накосячила, там же имя таблицы прибавляется в имени колонки, если колонка из правой таблицы, как бы все эти нюансы работы мат. вью уточнить в документации, а то неинтуитивненько
источник

II

Ilya I. in ClickHouse не тормозит
по поводу ошибки выпадения запроса через ровно три часа
вот что есть в логах (со стектрейсом):

2020.07.27 12:03:00.801553 [ 31707 ] {...} <Error> executeQuery: Code: 32, e.displayText() = DB::Exception: Attempt to read after eof (version 20.3.9.70 (official build)) (from <IP_address>) (in query: WITH '<field>' AS _table SELECT <fields> FROM <database> PREWHERE <условия> WHERE <условия> LIMIT 10000000), Stack trace (when copying this message, always include the lines below):

0. Poco::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0x105351b0 in /usr/bin/clickhouse
1. DB::throwReadAfterEOF() @ 0x8f45caf in /usr/bin/clickhouse
2. DB::readVarUInt(unsigned long&, DB::ReadBuffer&) @ 0x9029656 in /usr/bin/clickhouse
3. DB::TCPHandler::isQueryCancelled() @ 0x901cb9a in /usr/bin/clickhouse
4. DB::TCPHandler::processOrdinaryQueryWithProcessors() @ 0x901f275 in /usr/bin/clickhouse
5. DB::TCPHandler::runImpl() @ 0x902456b in /usr/bin/clickhouse
6. DB::TCPHandler::run() @ 0x9025470 in /usr/bin/clickhouse
7. Poco::Net::TCPServerConnection::start() @ 0xe3ac69b in /usr/bin/clickhouse
8. Poco::Net::TCPServerDispatcher::run() @ 0xe3acb1d in /usr/bin/clickhouse
9. Poco::PooledThread::run() @ 0x105c3317 in /usr/bin/clickhouse
10. Poco::ThreadImpl::runnableEntry(void*) @ 0x105bf11c in /usr/bin/clickhouse
11. ? @ 0x105c0abd in /usr/bin/clickhouse
12. start_thread @ 0x76db in /lib/x86_64-linux-gnu/libpthread-2.27.so
13. __clone @ 0x12188f in /lib/x86_64-linux-gnu/libc-2.27.so

2020.07.27 12:03:00.824078 [ 31707 ] {...} <Warning> TCPHandler: Client has gone away.

может у кого-нибудь есть идеи?
источник

AZ

Artem Zuikov in ClickHouse не тормозит
Екатерина
отбой, сегодня еще раз все прогнала, вставляет данные из полей правой таблицы, это я, видимо, в прошлый раз с алиасами накосячила, там же имя таблицы прибавляется в имени колонки, если колонка из правой таблицы, как бы все эти нюансы работы мат. вью уточнить в документации, а то неинтуитивненько
Если что-то оказалось не интуитивно - можно тоже завести issue с примером. На это еще раз посмотрят, может дойдут руки задукоментировать или исправить. Нет issue - нет мультиков )
источник

Е

Екатерина in ClickHouse не тормозит
Artem Zuikov
Если что-то оказалось не интуитивно - можно тоже завести issue с примером. На это еще раз посмотрят, может дойдут руки задукоментировать или исправить. Нет issue - нет мультиков )
понятно, спасибо )
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Ilya I.
по поводу ошибки выпадения запроса через ровно три часа
вот что есть в логах (со стектрейсом):

2020.07.27 12:03:00.801553 [ 31707 ] {...} <Error> executeQuery: Code: 32, e.displayText() = DB::Exception: Attempt to read after eof (version 20.3.9.70 (official build)) (from <IP_address>) (in query: WITH '<field>' AS _table SELECT <fields> FROM <database> PREWHERE <условия> WHERE <условия> LIMIT 10000000), Stack trace (when copying this message, always include the lines below):

0. Poco::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0x105351b0 in /usr/bin/clickhouse
1. DB::throwReadAfterEOF() @ 0x8f45caf in /usr/bin/clickhouse
2. DB::readVarUInt(unsigned long&, DB::ReadBuffer&) @ 0x9029656 in /usr/bin/clickhouse
3. DB::TCPHandler::isQueryCancelled() @ 0x901cb9a in /usr/bin/clickhouse
4. DB::TCPHandler::processOrdinaryQueryWithProcessors() @ 0x901f275 in /usr/bin/clickhouse
5. DB::TCPHandler::runImpl() @ 0x902456b in /usr/bin/clickhouse
6. DB::TCPHandler::run() @ 0x9025470 in /usr/bin/clickhouse
7. Poco::Net::TCPServerConnection::start() @ 0xe3ac69b in /usr/bin/clickhouse
8. Poco::Net::TCPServerDispatcher::run() @ 0xe3acb1d in /usr/bin/clickhouse
9. Poco::PooledThread::run() @ 0x105c3317 in /usr/bin/clickhouse
10. Poco::ThreadImpl::runnableEntry(void*) @ 0x105bf11c in /usr/bin/clickhouse
11. ? @ 0x105c0abd in /usr/bin/clickhouse
12. start_thread @ 0x76db in /lib/x86_64-linux-gnu/libpthread-2.27.so
13. __clone @ 0x12188f in /lib/x86_64-linux-gnu/libc-2.27.so

2020.07.27 12:03:00.824078 [ 31707 ] {...} <Warning> TCPHandler: Client has gone away.

может у кого-нибудь есть идеи?
На том from IP надо в query log смотреть.
A сколько receive timeout? В system.settings ?
источник

ИМ

Илья Максимов... in ClickHouse не тормозит
Yuran
(но я не уверен, что optimize on cluster будет работать так, как Вы ожидаете)
Спасибо! 👍🏻
источник

II

Ilya I. in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
На том from IP надо в query log смотреть.
A сколько receive timeout? В system.settings ?
в лог гляну, спасибо
receive timeout = 300

при запросе с клиента receive_timeout задавался 30800
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Ilya I.
в лог гляну, спасибо
receive timeout = 300

при запросе с клиента receive_timeout задавался 30800
Скорее всего надо разбираться с keep alive видимо Линукс закрывает сокет между нодами кх потому что ничего не передается
источник

II

Ilya I. in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
Скорее всего надо разбираться с keep alive видимо Линукс закрывает сокет между нодами кх потому что ничего не передается
Спасибо за мысли к изучению, посмотрим.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Ilya I.
Спасибо за мысли к изучению, посмотрим.
Вообще что угодно может быть, в моей практике например циско asa чистила nat таблицу.
источник

SL

Sergey Lossev in ClickHouse не тормозит
Всем привет. Какой есть аналог пандасовского pd.DataFrame.ffill( ... ) ?
источник

SL

Sergey Lossev in ClickHouse не тормозит
Или если у кого-то есть готовый паттерн заполнения пустот в группе
источник

AM

Alexey Milovidov in ClickHouse не тормозит
Artemeey Gavryushin
Привет!
Вопрос тем, кто работает со storage_policy
Могу ли я сделать detach партиции из таблицы без storage_policy, а потом сделать attach этой же партиции в таблицу со storage_policy
Да. storage policy не влияет на сами данные кусков, а влияет только на то, где они расположены. То есть, делаете detach, переносите данные в директорию detached другой таблицы и делаете attach.
источник

SL

Sergey Lossev in ClickHouse не тормозит
Т.е. есть
gr | val
--------
1 | 11
1 | 22
1 |  -
1 | 33
1 |  -
1 |  -
2 |  -
2 |  -
2 | 44
2 |  -
2 | 55
2 |  -


Надо
gr | val
--------
1 | 11
1 | 22
1 | 22
1 | 33
1 | 33
1 | 33
2 |  -
2 |  -
2 | 44
2 | 44
2 | 55
2 | 55
источник

AG

Artemeey Gavryushin in ClickHouse не тормозит
Alexey Milovidov
Да. storage policy не влияет на сами данные кусков, а влияет только на то, где они расположены. То есть, делаете detach, переносите данные в директорию detached другой таблицы и делаете attach.
Спасибо!
источник

DN

Dmitriy Novikov in ClickHouse не тормозит
Sergey Lossev
Т.е. есть
gr | val
--------
1 | 11
1 | 22
1 |  -
1 | 33
1 |  -
1 |  -
2 |  -
2 |  -
2 | 44
2 |  -
2 | 55
2 |  -


Надо
gr | val
--------
1 | 11
1 | 22
1 | 22
1 | 33
1 | 33
1 | 33
2 |  -
2 |  -
2 | 44
2 | 44
2 | 55
2 | 55
groupArray + map
источник