Size: a a a

ClickHouse не тормозит

2020 July 20

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dmitry Konovalchuk
да вот и предполагаем, что возможно это репликация. Но подтвердить не можем. Как понять откуда сыпется?

Трейс лог:

0. Poco::IOException::IOException(int) @ 0x10522d3f in /usr/bin/clickhouse
1. Poco::Net::ConnectionResetException::ConnectionResetException(int) @ 0xe3741ed in /usr/bin/clickhouse
2. ? @ 0xe38994a in /usr/bin/clickhouse
3. Poco::Net::SocketImpl::receiveBytes(void*, int, int) @ 0xe388013 in /usr/bin/clickhouse
4. Poco::Net::HTTPSession::receive(char*, int) @ 0xe363d18 in /usr/bin/clickhouse
5. Poco::Net::HTTPSession::get() @ 0xe363d83 in /usr/bin/clickhouse
6. Poco::Net::HTTPHeaderStreamBuf::readFromDevice(char*, long) @ 0xe358f7a in /usr/bin/clickhouse
7. Poco::BasicBufferedStreamBuf<char, std::__1::char_traits<char>, Poco::Net::HTTPBufferAllocator>::underflow() @ 0xe3557e8 in /usr/bin/clickhouse
8. std::__1::basic_streambuf<char, std::__1::char_traits<char> >::uflow() @ 0x11035fbe in ?
9. std::__1::basic_istream<char, std::__1::char_traits<char> >::get() @ 0x1103d5b6 in ?
10. Poco::Net::HTTPRequest::read(std::__1::basic_istream<char, std::__1::char_traits<char> >&) @ 0xe35c347 in /usr/bin/clickhouse
11. Poco::Net::HTTPServerRequestImpl::HTTPServerRequestImpl(Poco::Net::HTTPServerResponseImpl&, Poco::Net::HTTPServerSession&, Poco::Net::HTTPServerParams*) @ 0xe361e25 in /usr/bin/clickhouse
12. Poco::Net::HTTPServerConnection::run() @ 0xe360f29 in /usr/bin/clickhouse
13. Poco::Net::TCPServerConnection::start() @ 0xe390dfb in /usr/bin/clickhouse
14. Poco::Net::TCPServerDispatcher::run() @ 0xe39127d in /usr/bin/clickhouse
15. Poco::PooledThread::run() @ 0x105a7d47 in /usr/bin/clickhouse
16. Poco::ThreadImpl::runnableEntry(void*) @ 0x105a3b4c in /usr/bin/clickhouse
17. ? @ 0x105a54ed in /usr/bin/clickhouse
18. start_thread @ 0x76db in /lib/x86_64-linux-gnu/libpthread-2.27.so
19. __clone @ 0x12188f in /lib/x86_64-linux-gnu/libc-2.27.so
(version 20.3.12.112 (official build))
сообщение об ошибке из лога покажите, там [ threadid ] и { query_id }  и по ним смотрите что было в логе до этого
источник

DK

Dmitry Konovalchuk in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
сообщение об ошибке из лога покажите, там [ threadid ] и { query_id }  и по ним смотрите что было в логе до этого
2020.07.20 18:21:10.919024 [ 17343 ] {} <Error> ServerErrorHandler: Poco::Exception. Code: 1000, e.code() = 104, e.displayText() = Connection reset by peer, Stack trace (when copying this message, always include the lines below):
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dmitry Konovalchuk
2020.07.20 18:21:10.919024 [ 17343 ] {} <Error> ServerErrorHandler: Poco::Exception. Code: 1000, e.code() = 104, e.displayText() = Connection reset by peer, Stack trace (when copying this message, always include the lines below):
грепайте по 17343
источник

DK

Dmitry Konovalchuk in ClickHouse не тормозит
query_id нет, не похоже на клиентский запрос
источник

S

Slach in ClickHouse не тормозит
Dmitry Konovalchuk
query_id нет, не похоже на клиентский запрос
порт по SSL видимо кто-то трогает, может мониторинг какой?
источник

DS

Dimitriy Scherbenko in ClickHouse не тормозит
Всем привет! Подскажите, пожалуйста, уместно ли создать MV в котором будет находится union all? Соотвественно использоваться будут две разные таблицы.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dimitriy Scherbenko
Всем привет! Подскажите, пожалуйста, уместно ли создать MV в котором будет находится union all? Соотвественно использоваться будут две разные таблицы.
нет, не получится.

можно создать 2 MV которые будут писать в одну таблицу
источник

D

Dj in ClickHouse не тормозит
если в дмесг логе есть
'clickhouse-serv' uses 32-bit capabilities


это насколько плохо?
источник

DS

Dimitriy Scherbenko in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
нет, не получится.

можно создать 2 MV которые будут писать в одну таблицу
Большое спасибо за ответ
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dj
если в дмесг логе есть
'clickhouse-serv' uses 32-bit capabilities


это насколько плохо?
redhat ? я думаю это глюк, у КХ все статически слинковано, такого не может быть, что он использует 32бит библиотеки
источник

DK

Dmitry Konovalchuk in ClickHouse не тормозит
Slach
порт по SSL видимо кто-то трогает, может мониторинг какой?
спасибо) да, есть telegraf с плагином clickhouse. Стопнули, ошибки все равно идут :(
источник

DK

Dmitry Konovalchuk in ClickHouse не тормозит
Slach
порт по SSL видимо кто-то трогает, может мониторинг какой?
в общем раньше на 19.13.7.57 у нас такие же ошибки были, но без трейсов. Наверное что-то действительно трогает порт. Будем искать)

@BloodJazMan @den_crane спасибо за помощь)
источник

V

Vladimir in ClickHouse не тормозит
Коллеги, привет! А что с Data Skipping Indexes ? Production ready? Их уже можно юзать?
источник

D

Dj in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
redhat ? я думаю это глюк, у КХ все статически слинковано, такого не может быть, что он использует 32бит библиотеки
да, RHEL, судя по всему изза какой то внешней либы наверн...
источник

YV

Yaroslav Verbin in ClickHouse не тормозит
подскажите, пожалуйста по конфигурации политики хранения. Пытаюсь для существующих таблиц добавить раздел на диске, для переноса туда старых партов. Чтобы не трогать существующие таблицы, изменил политику по умолчанию
  <policies>
     <default> <!-- name for new storage policy -->
       <volumes>
         <default>
           <disk>default</disk>
         </default>
         <hdd>
           <disk>hdd</disk>
         </hdd>
       </volumes>
     </default>

   </policies>
по идее, данные должны литься только в default до переполнения, а они льются, похоже, что случайно, так же для старых данных клик сделал перебалансировку. Отличие от примера в документации только в том, что под такую конфигурацию создают отдельную политику.
источник

ДБ

Дмитрий Бережнов... in ClickHouse не тормозит
Запрос с кучей join через clickhouse-client выполнятеся, причем достаточно быстро. А через http - падает по памяти. Единственное что нашел - https://github.com/ClickHouse/ClickHouse/issues/9702
Но у меня не включен partial join, в настройках явно указано что join_algorithm='hash'
источник

S

Slach in ClickHouse не тормозит
Dmitry Konovalchuk
спасибо) да, есть telegraf с плагином clickhouse. Стопнули, ошибки все равно идут :(
так странно. телеграф точно нормально должен по SSL коннектиться
я его писал и проверял
дело не в нем
источник

AS

Anton Saraev in ClickHouse не тормозит
Дмитрий Бережнов
Запрос с кучей join через clickhouse-client выполнятеся, причем достаточно быстро. А через http - падает по памяти. Единственное что нашел - https://github.com/ClickHouse/ClickHouse/issues/9702
Но у меня не включен partial join, в настройках явно указано что join_algorithm='hash'
В system.query_log настройки (столбцы Settings.*) и пользователи у запросов одинаковые?
источник

S

Slach in ClickHouse не тормозит
сделайте TCPDump
посмотрите с каких IP идут коннекты на этот порт
посмотрите в wireshark
может найдете какие то кривости в handshake
источник

A

Andrey in ClickHouse не тормозит
Коллеги, а чтобы drop partition нормально отрабатывал на replicatedmergetree у юзера обязательно должны быть права на все реплики?
источник