Size: a a a

ClickHouse не тормозит

2020 August 14

DC

Denny Crane (I don't... in ClickHouse не тормозит
Lev Abashkin
Привет! Подскажите, есть ли настройка, чтобы обойти следующее ограничение? В доках не нашёл.
DB::Exception: Limit for rows to read exceeded, max bytes: 9.09 TiB, current bytes: 9.10 TiB
по умолчанию ограничения нет.

 --max_rows_to_read arg                                           Limit on read rows from the most 'deep' sources. That is, only in the deepest subquery. When reading from a remote server, it is


set max_rows_to_read =300
select * from numbers(10000000) format Null
DB::Exception: Limit for rows or bytes to read exceeded, max rows: 300.00, current rows: 10.00 million
источник

SL

Sergey Lossev in ClickHouse не тормозит
А он платный? Сколько стоит? Смотрю, в загрузках 30-дневный триал. Что будет по их прошествии?
источник

АВ

Александр Веселов... in ClickHouse не тормозит
проблема была - надо было добавить в атрибуты <null_value>Null</null_value> ))
источник

АВ

Александр Веселов... in ClickHouse не тормозит
Sergey Lossev
А он платный? Сколько стоит? Смотрю, в загрузках 30-дневный триал. Что будет по их прошествии?
в лс
источник

LA

Lev Abashkin in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
по умолчанию ограничения нет.

 --max_rows_to_read arg                                           Limit on read rows from the most 'deep' sources. That is, only in the deepest subquery. When reading from a remote server, it is


set max_rows_to_read =300
select * from numbers(10000000) format Null
DB::Exception: Limit for rows or bytes to read exceeded, max rows: 300.00, current rows: 10.00 million
В моём случае байтики, а не строки, но и то другое прибито гвоздями: DB::Exception: Setting max_bytes_to_read should not be changed. В любом случае, спасибо!
источник

S

Slach in ClickHouse не тормозит
Sergey Lossev
А он платный? Сколько стоит? Смотрю, в загрузках 30-дневный триал. Что будет по их прошествии?
денег захотят
источник

D

Dj in ClickHouse не тормозит
добрый день, за последние пару дней в логах посыпались постоянные "Session expired" (wc-l по err-логу 36000 ) и таблицы уходят в readonly и возвращаются.
При этом ЗК живой вполне.
куда можно копать?

2020.08.11 08:36:22.669140 [ 8046 ] {} <Error> schema.tablename: void DB::StorageReplicatedMergeTree::mutationsUpdatingTask(): Code: 999, e.displayText() = Coordination::Exception: Session expired (Session expired), Stack trace (when copying this message, always include the lines below):



0. Poco::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0x1051b3a0 in /usr/bin/clickhouse
1. DB::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0x8f5172d in /usr/bin/clickhouse
2. Coordination::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int, int) @ 0xdeef818 in /usr/bin/clickhouse
3. Coordination::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0xdeefe42 in /usr/bin/clickhouse
4. ? @ 0xdf24221 in /usr/bin/clickhouse
5. Coordination::ZooKeeper::list(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, std::__1::function<void (Coordination::ListResponse const&)>, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdf1f68d in /usr/bin/clickhouse
6. zkutil::ZooKeeper::getChildrenImpl(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, std::__1::vector<std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> >, std::__1::allocator<std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > > >&, Coordination::Stat*, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdef7bd7 in /usr/bin/clickhouse
7. zkutil::ZooKeeper::getChildrenWatch(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, Coordination::Stat*, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdefc01f in /usr/bin/clickhouse
8. DB::ReplicatedMergeTreeQueue::updateMutations(std::__1::shared_ptr<zkutil::ZooKeeper>, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdac42d8 in /usr/bin/clickhouse
9. DB::StorageReplicatedMergeTree::mutationsUpdatingTask() @ 0xd7291e5 in /usr/bin/clickhouse
10. DB::BackgroundSchedulePoolTaskInfo::execute() @ 0xcfe9415 in /usr/bin/clickhouse
11. DB::BackgroundSchedulePool::threadFunction() @ 0xcfe9a32 in /usr/bin/clickhouse
12. ? @ 0xcfe9b70 in /usr/bin/clickhouse
13. ThreadPoolImpl<std::__1::thread>::worker(std::__1::__list_iterator<std::__1::thread, void*>) @ 0x8f757e7 in /usr/bin/clickhouse
14. ? @ 0x8f73c33 in /usr/bin/clickhouse
15. start_thread @ 0x7ea5 in /usr/lib64/libpthread-2.17.so
16. __clone @ 0xfe8cd in /usr/lib64/libc-2.17.so
(version 20.3.11.97 (official build))
источник

D

Dj in ClickHouse не тормозит
Dj
добрый день, за последние пару дней в логах посыпались постоянные "Session expired" (wc-l по err-логу 36000 ) и таблицы уходят в readonly и возвращаются.
При этом ЗК живой вполне.
куда можно копать?

2020.08.11 08:36:22.669140 [ 8046 ] {} <Error> schema.tablename: void DB::StorageReplicatedMergeTree::mutationsUpdatingTask(): Code: 999, e.displayText() = Coordination::Exception: Session expired (Session expired), Stack trace (when copying this message, always include the lines below):



0. Poco::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0x1051b3a0 in /usr/bin/clickhouse
1. DB::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0x8f5172d in /usr/bin/clickhouse
2. Coordination::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int, int) @ 0xdeef818 in /usr/bin/clickhouse
3. Coordination::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0xdeefe42 in /usr/bin/clickhouse
4. ? @ 0xdf24221 in /usr/bin/clickhouse
5. Coordination::ZooKeeper::list(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, std::__1::function<void (Coordination::ListResponse const&)>, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdf1f68d in /usr/bin/clickhouse
6. zkutil::ZooKeeper::getChildrenImpl(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, std::__1::vector<std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> >, std::__1::allocator<std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > > >&, Coordination::Stat*, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdef7bd7 in /usr/bin/clickhouse
7. zkutil::ZooKeeper::getChildrenWatch(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, Coordination::Stat*, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdefc01f in /usr/bin/clickhouse
8. DB::ReplicatedMergeTreeQueue::updateMutations(std::__1::shared_ptr<zkutil::ZooKeeper>, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdac42d8 in /usr/bin/clickhouse
9. DB::StorageReplicatedMergeTree::mutationsUpdatingTask() @ 0xd7291e5 in /usr/bin/clickhouse
10. DB::BackgroundSchedulePoolTaskInfo::execute() @ 0xcfe9415 in /usr/bin/clickhouse
11. DB::BackgroundSchedulePool::threadFunction() @ 0xcfe9a32 in /usr/bin/clickhouse
12. ? @ 0xcfe9b70 in /usr/bin/clickhouse
13. ThreadPoolImpl<std::__1::thread>::worker(std::__1::__list_iterator<std::__1::thread, void*>) @ 0x8f757e7 in /usr/bin/clickhouse
14. ? @ 0x8f73c33 in /usr/bin/clickhouse
15. start_thread @ 0x7ea5 in /usr/lib64/libpthread-2.17.so
16. __clone @ 0xfe8cd in /usr/lib64/libc-2.17.so
(version 20.3.11.97 (official build))
мутации на этой таблице никто не запускает, но есть куча старых мутаций (изза materialize ttl в мае). есть ли смысл их "почистить"
источник

AR

Alexander Ryzhenko in ClickHouse не тормозит
Подскажите, как кверить удаленный ms sql сервер?
Поставили и запустили clickhouse-jdbc-bridge
пытаюсь выполнить
SELECT * FROM jdbc('jdbc:sqlserver://XXX.XXX.XXX:PPPP?...)
говорит
HTTP status code: 500 Server Error, body: No suitable driver found for jdbc:sqlserver://XXX.XXX.XXX:PPPP?...)

Где взять этот драйвер? или может я что не так делаю?
источник

D

Dj in ClickHouse не тормозит
Dj
добрый день, за последние пару дней в логах посыпались постоянные "Session expired" (wc-l по err-логу 36000 ) и таблицы уходят в readonly и возвращаются.
При этом ЗК живой вполне.
куда можно копать?

2020.08.11 08:36:22.669140 [ 8046 ] {} <Error> schema.tablename: void DB::StorageReplicatedMergeTree::mutationsUpdatingTask(): Code: 999, e.displayText() = Coordination::Exception: Session expired (Session expired), Stack trace (when copying this message, always include the lines below):



0. Poco::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0x1051b3a0 in /usr/bin/clickhouse
1. DB::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0x8f5172d in /usr/bin/clickhouse
2. Coordination::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int, int) @ 0xdeef818 in /usr/bin/clickhouse
3. Coordination::Exception::Exception(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, int) @ 0xdeefe42 in /usr/bin/clickhouse
4. ? @ 0xdf24221 in /usr/bin/clickhouse
5. Coordination::ZooKeeper::list(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, std::__1::function<void (Coordination::ListResponse const&)>, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdf1f68d in /usr/bin/clickhouse
6. zkutil::ZooKeeper::getChildrenImpl(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, std::__1::vector<std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> >, std::__1::allocator<std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > > >&, Coordination::Stat*, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdef7bd7 in /usr/bin/clickhouse
7. zkutil::ZooKeeper::getChildrenWatch(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, Coordination::Stat*, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdefc01f in /usr/bin/clickhouse
8. DB::ReplicatedMergeTreeQueue::updateMutations(std::__1::shared_ptr<zkutil::ZooKeeper>, std::__1::function<void (Coordination::WatchResponse const&)>) @ 0xdac42d8 in /usr/bin/clickhouse
9. DB::StorageReplicatedMergeTree::mutationsUpdatingTask() @ 0xd7291e5 in /usr/bin/clickhouse
10. DB::BackgroundSchedulePoolTaskInfo::execute() @ 0xcfe9415 in /usr/bin/clickhouse
11. DB::BackgroundSchedulePool::threadFunction() @ 0xcfe9a32 in /usr/bin/clickhouse
12. ? @ 0xcfe9b70 in /usr/bin/clickhouse
13. ThreadPoolImpl<std::__1::thread>::worker(std::__1::__list_iterator<std::__1::thread, void*>) @ 0x8f757e7 in /usr/bin/clickhouse
14. ? @ 0x8f73c33 in /usr/bin/clickhouse
15. start_thread @ 0x7ea5 in /usr/lib64/libpthread-2.17.so
16. __clone @ 0xfe8cd in /usr/lib64/libc-2.17.so
(version 20.3.11.97 (official build))
проблема была в ЗК похоже из-за debug log, но это неточно
источник

D

Dj in ClickHouse не тормозит
вопрос теперь такой
- вставка в distributed
- не проходит на одном из шардов по лимиту партишнов в одном инсерте (иногда апп криво работает допустим)
- distributed monitor пытается его вставить бесконечное количество раз и каждый раз файл явно переименовывается/пересоздается. как поймать плохой bin файл?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dj
вопрос теперь такой
- вставка в distributed
- не проходит на одном из шардов по лимиту партишнов в одном инсерте (иногда апп криво работает допустим)
- distributed monitor пытается его вставить бесконечное количество раз и каждый раз файл явно переименовывается/пересоздается. как поймать плохой bin файл?
да вроде нет, имя файла не меняется

https://github.com/ClickHouse/ClickHouse/issues/12530#issuecomment-658902526

Started processing /var/lib/clickhouse/data/default/test12345d/default@chdw1%2D2%2Esde894:9000/1.bin
Started processing /var/lib/clickhouse/data/default/test12345d/default@chdw1%2D2%2Esde894:9000/1.bin
Started processing /var/lib/clickhouse/data/default/test12345d/default@chdw1%2D2%2Esde894:9000/1.bin
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
можно остановить обработку distributed  типа как-то system distributed send stop
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
и взять из лога из ошибки имя файла
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Alexander Ryzhenko
Подскажите, как кверить удаленный ms sql сервер?
Поставили и запустили clickhouse-jdbc-bridge
пытаюсь выполнить
SELECT * FROM jdbc('jdbc:sqlserver://XXX.XXX.XXX:PPPP?...)
говорит
HTTP status code: 500 Server Error, body: No suitable driver found for jdbc:sqlserver://XXX.XXX.XXX:PPPP?...)

Где взять этот драйвер? или может я что не так делаю?
на сайте MS скачать jdbc драйвер?

https://github.com/ClickHouse/clickhouse-jdbc-bridge#overview
источник

D

Dj in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
и взять из лога из ошибки имя файла
не пишет в логе имя файла... ошибка происходит при вставке в один из шардов только
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dj
не пишет в логе имя файла... ошибка происходит при вставке в один из шардов только
дистрибьютид таблица  пишет ошибку, она шардит до отсылки
источник

D

Dj in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
да вроде нет, имя файла не меняется

https://github.com/ClickHouse/ClickHouse/issues/12530#issuecomment-658902526

Started processing /var/lib/clickhouse/data/default/test12345d/default@chdw1%2D2%2Esde894:9000/1.bin
Started processing /var/lib/clickhouse/data/default/test12345d/default@chdw1%2D2%2Esde894:9000/1.bin
Started processing /var/lib/clickhouse/data/default/test12345d/default@chdw1%2D2%2Esde894:9000/1.bin
там точно есть некая перезапись, потому что все даты модификации свежие... а тот файл валится с июня
можно конечно убить вставки и дождаться пока останется только один, но эт долго и больно
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dj
там точно есть некая перезапись, потому что все даты модификации свежие... а тот файл валится с июня
можно конечно убить вставки и дождаться пока останется только один, но эт долго и больно
SYSTEM STOP DISTRIBUTED SENDS [db.]<distributed_table_name>
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
ищем в логе последнюю ошибку
источник