Size: a a a

ClickHouse не тормозит

2021 March 03

В

Виктор in ClickHouse не тормозит
Илья Максимов
Привет! Создал Replicated таблицу в новой базе, потом дропнул, чтобы пересоздать с другим PARTITION BY, но в результате ловлю Existing table metadata in ZooKeeper differs. Когда из зукипера удалится информация со старой структурой таблицы? Я могу и сам пойти в зукипер удалить директорию, но это как то костыльно звучит. Есть тру вей?
там 8 минут таймаут по дефолту, поищите тут в чатике по atomic
источник

ИМ

Илья Максимов... in ClickHouse не тормозит
Ага, нашел. Возможно мне поможет в дальнейшем SET database_atomic_wait_for_drop_and_detach_synchronously = 1, или SYNC, или NO DELAY. Как нибудь опробую, сепс
источник

IS

Ivan Starkov in ClickHouse не тормозит
Ошибка "DB::Exception: Unknown data type family: Identifier"
Всем добрый день,  подскажите по какой причине не работает пример отсюда https://clickhouse.tech/docs/en/interfaces/cli/#cli-queries-with-parameters
когда я пытаюсь передать field name как параметр например
clickhouse-client --param_order=id -n <<-EOSQL
 SELECT id, location_slugs_fr FROM listings
 ORDER BY {order: Identifier}
 limit 24 offset 0
EOSQL
падает с ошибкой DB::Exception: Unknown data type family: Identifier
версия клиента ClickHouse client version 20.8.13.15 (official build).
источник

AK

Anton Khokhrin in ClickHouse не тормозит
Илья Максимов
Ага, нашел. Возможно мне поможет в дальнейшем SET database_atomic_wait_for_drop_and_detach_synchronously = 1, или SYNC, или NO DELAY. Как нибудь опробую, сепс
Ещё вариант генерить уникальный путь в zk, который будет меняться при каждом create
источник

ВВ

Вячеслав Владимиров... in ClickHouse не тормозит
Народ привет, вопрос:
есть табл c SummingMergeTree((col1,col2))
Добавляю еще колонку
alter table xxxx add column col3 UInt64
и надо бы эту новую col3  в SummingMergeTree((col1,col2, col3))

Есть синтаксис для такого?
или поправить руками sql файл ATTACH TABLE в метадата рестарт сервиса и все?
источник

MM

Mikhail Mayorov in ClickHouse не тормозит
Илья Максимов
Привет! Создал Replicated таблицу в новой базе, потом дропнул, чтобы пересоздать с другим PARTITION BY, но в результате ловлю Existing table metadata in ZooKeeper differs. Когда из зукипера удалится информация со старой структурой таблицы? Я могу и сам пойти в зукипер удалить директорию, но это как то костыльно звучит. Есть тру вей?
Чтоб не ждать zookeeper, можно грохать таблицы вот так drop table XXX no delay;
источник

ИМ

Илья Максимов... in ClickHouse не тормозит
Mikhail Mayorov
Чтоб не ждать zookeeper, можно грохать таблицы вот так drop table XXX no delay;
Пробовал с no delay после ошибки, но тоже не помогло. Скорее всего надо было сперва добавить no delay, а не потом
источник

MM

Maxim Mezhekov in ClickHouse не тормозит
Привет,
Помогите в вопросе, имеем 3 сервера в хетзнер, на всех 3 крутится zookeeper, на 2х из них живет CH, ночью произошел сетевой сбой в хетзнер, в итоге, запись в CH запрещена (DB::Exception: Table is in readonly mode). Версия CH 21.2.4. Zookeeper 6.1.0
    <remote_servers>
      <cluster>
          <shard>
              <internal_replication>true</internal_replication>
              <replica>
                  <host>node2</host>
                  <port>9000</port>
              </replica>
              <replica>
                  <host>node3</host>
                  <port>9000</port>
              </replica>
          </shard>
      </cluster>
   </remote_servers>    
<zookeeper>
       <node index="1">
           <host>node1</host>
           <port>2181</port>
       </node>
       <node index="2">
           <host>node2</host>
           <port>2181</port>
       </node>
       <node index="3">
           <host>node3</host>
           <port>2181</port>
       </node>
       <root>/prod</root>
   </zookeeper>

все ноды zk проверил echo "isro"|nc node1 2181 все 3 отдают rw
Вопрос вот в чем, перезагрузка CH поможет или готовится к перезаливки данных из ReplicatedMergeTree? Или может посоветуете куда еще посмотреть, чтобы более детально понять масштаб разрушений?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Maxim Mezhekov
Привет,
Помогите в вопросе, имеем 3 сервера в хетзнер, на всех 3 крутится zookeeper, на 2х из них живет CH, ночью произошел сетевой сбой в хетзнер, в итоге, запись в CH запрещена (DB::Exception: Table is in readonly mode). Версия CH 21.2.4. Zookeeper 6.1.0
    <remote_servers>
      <cluster>
          <shard>
              <internal_replication>true</internal_replication>
              <replica>
                  <host>node2</host>
                  <port>9000</port>
              </replica>
              <replica>
                  <host>node3</host>
                  <port>9000</port>
              </replica>
          </shard>
      </cluster>
   </remote_servers>    
<zookeeper>
       <node index="1">
           <host>node1</host>
           <port>2181</port>
       </node>
       <node index="2">
           <host>node2</host>
           <port>2181</port>
       </node>
       <node index="3">
           <host>node3</host>
           <port>2181</port>
       </node>
       <root>/prod</root>
   </zookeeper>

все ноды zk проверил echo "isro"|nc node1 2181 все 3 отдают rw
Вопрос вот в чем, перезагрузка CH поможет или готовится к перезаливки данных из ReplicatedMergeTree? Или может посоветуете куда еще посмотреть, чтобы более детально понять масштаб разрушений?
Нужно проверять если ли данные в zk и связность с ним

SELECT * FROM system.zookeeper WHERE path = '/'
источник

MM

Maxim Mezhekov in ClickHouse не тормозит
этот запрос и еще из system.replicas отваливаются по таймауту
источник

MM

Maxim Mezhekov in ClickHouse не тормозит
Настроеная читалка из кафки пишет вот такие ошибки
2021.03.03 14:04:53.191682 [ 69 ] {} <Error> void DB::StorageKafka::threadFunc(size_t): Code: 242, e.displayText() = DB::Exception: Table is in readonly mode (zookeeper path: /clickhouse/tables/default/search_items), Stack trace (when copying this message, always include the lines below):

0. DB::Exception::Exception<std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&>(int, std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&) @ 0x85494a1 in /usr/bin/clickhouse
1. DB::StorageReplicatedMergeTree::assertNotReadonly() const @ 0xf16cf79 in /usr/bin/clickhouse
2. DB::StorageReplicatedMergeTree::write(std::__1::shared_ptr<DB::IAST> const&, std::__1::shared_ptr<DB::StorageInMemoryMetadata const> const&, DB::Context const&) @ 0xf16d087 in /usr/bin/clickhouse
3. DB::PushingToViewsBlockOutputStream::PushingToViewsBlockOutputStream(std::__1::shared_ptr<DB::IStorage> const&, std::__1::shared_ptr<DB::StorageInMemoryMetadata const> const&, DB::Context const&, std::__1::shared_ptr<DB::IAST> const&, bool) @ 0xeb698a9 in /usr/bin/clickhouse
4. DB::InterpreterInsertQuery::execute() @ 0xeb62b08 in /usr/bin/clickhouse
5. DB::PushingToViewsBlockOutputStream::PushingToViewsBlockOutputStream(std::__1::shared_ptr<DB::IStorage> const&, std::__1::shared_ptr<DB::StorageInMemoryMetadata const> const&, DB::Context const&, std::__1::shared_ptr<DB::IAST> const&, bool) @ 0xeb6aa06 in /usr/bin/clickhouse
6. DB::InterpreterInsertQuery::execute() @ 0xeb62b08 in /usr/bin/clickhouse
7. DB::StorageKafka::streamToViews() @ 0xf2299f8 in /usr/bin/clickhouse
8. DB::StorageKafka::threadFunc(unsigned long) @ 0xf228c68 in /usr/bin/clickhouse
9. DB::BackgroundSchedulePoolTaskInfo::execute() @ 0xe85a180 in /usr/bin/clickhouse
10. DB::BackgroundSchedulePool::threadFunction() @ 0xe85c177 in /usr/bin/clickhouse
11. ? @ 0xe85cf42 in /usr/bin/clickhouse
12. ThreadPoolImpl<std::__1::thread>::worker(std::__1::__list_iterator<std::__1::thread, void*>) @ 0x84f6e4f in /usr/bin/clickhouse
13. ? @ 0x84fa8e3 in /usr/bin/clickhouse
14. start_thread @ 0x9609 in /usr/lib/x86_64-linux-gnu/libpthread-2.31.so
15. clone @ 0x122293 in /usr/lib/x86_64-linux-gnu/libc-2.31.so
(version 21.2.4.6 (official build))
источник

DT

Dmitry Titov in ClickHouse не тормозит
Maxim Mezhekov
этот запрос и еще из system.replicas отваливаются по таймауту
echo "stat"|nc node1 2181

А если state проверить всех нод?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Они там кластер сформировали?
источник

MM

Maxim Mezhekov in ClickHouse не тормозит
echo "stat"|nc node3 2181
Zookeeper version: 3.5.8-f439ca583e70862c3068a1f2a7d4d068eec33315, built on 05/04/2020 15:53 GMT
Clients:
/10.0.1.20:49946[0](queued=0,recved=1,sent=0)
/10.0.1.20:49940[0](queued=0,recved=1,sent=0)
/10.0.1.10:42554[0](queued=0,recved=1,sent=0)

Latency min/avg/max: 0/0/0
Received: 1383
Sent: 9
Connections: 3
Outstanding: 1373
Zxid: 0x3004437ea
Mode: follower
Node count: 1977

echo "stat"|nc node2 2181
Zookeeper version: 3.5.8-f439ca583e70862c3068a1f2a7d4d068eec33315, built on 05/04/2020 15:53 GMT
Clients:
/10.0.1.30:55722[0](queued=0,recved=1,sent=0)
/10.0.1.30:55728[0](queued=0,recved=1,sent=0)
/10.0.1.10:38278[0](queued=0,recved=1,sent=0)

Latency min/avg/max: 0/0/0
Received: 1379
Sent: 4
Connections: 3
Outstanding: 1374
Zxid: 0x400000000
Mode: leader
Node count: 1977
Proposal sizes last/min/max: 32/32/36


echo "stat"|nc node1 2181
Zookeeper version: 3.5.8-f439ca583e70862c3068a1f2a7d4d068eec33315, built on 05/04/2020 15:53 GMT
Clients:
/172.17.0.1:44064[1](queued=0,recved=1,sent=1)
/10.0.1.30:50686[0](queued=0,recved=1,sent=0)
/10.0.1.20:52654[0](queued=0,recved=1,sent=0)
/172.17.0.1:44050[0](queued=1,recved=2,sent=1)
/172.17.0.1:44070[0](queued=1,recved=2,sent=1)
/10.0.1.20:52648[0](queued=0,recved=1,sent=0)
/10.0.1.30:50692[0](queued=0,recved=1,sent=0)
/10.0.1.10:52732[0](queued=0,recved=1,sent=0)

Latency min/avg/max: 0/0/1
Received: 12724
Sent: 5108
Connections: 8
Outstanding: 7615
Zxid: 0x3004437ea
Mode: follower
Node count: 1977
источник

MM

Maxim Mezhekov in ClickHouse не тормозит
echo "mntr"|nc node2 2181
zk_version 3.5.8-f439ca583e70862c3068a1f2a7d4d068eec33315, built on 05/04/2020 15:53 GMT
zk_avg_latency 0
zk_max_latency 0
zk_min_latency 0
zk_packets_received 1388
zk_packets_sent 5
zk_num_alive_connections 2
zk_outstanding_requests 1382
zk_server_state leader
zk_znode_count 1977
zk_watch_count 0
zk_ephemerals_count 18
zk_approximate_data_size 295232
zk_open_file_descriptor_count 144
zk_max_file_descriptor_count 1048576
zk_followers 2
zk_synced_followers 2
zk_pending_syncs 0
zk_last_proposal_size 32
zk_max_proposal_size 36
zk_min_proposal_size 32
вот mntr лидера
источник

MM

Maxim Mezhekov in ClickHouse не тормозит
zk_followers 2
zk_synced_followers 2

думаю это свидетельствует о том что кластер сформировался
источник

DT

Dmitry Titov in ClickHouse не тормозит
Maxim Mezhekov
zk_followers 2
zk_synced_followers 2

думаю это свидетельствует о том что кластер сформировался
Да, выглядит нормально

попробуйте
SYSTEM RESTART REPLICAS;
И наверное дальше просто рестарт clickhouse-server можно сделать если не сработало
источник

Ф

Федор in ClickHouse не тормозит
Коллеги есть вопрос.
Сейчас в компании рассматриваем возможность использования clickhouse.
Такая ситуация при вставки тестовых данных скорость инсерта была примерно 3сек на 100к записей.
Сейчас заливаю реальные данные скорость упала до 20-30 сёк на 2000 записей.
Подскажите за что можно зацепится?
источник

Ф

Федор in ClickHouse не тормозит
Использую клиент clickhouse.ado для c#
источник

YV

Yuri Velgosha in ClickHouse не тормозит
Федор
Коллеги есть вопрос.
Сейчас в компании рассматриваем возможность использования clickhouse.
Такая ситуация при вставки тестовых данных скорость инсерта была примерно 3сек на 100к записей.
Сейчас заливаю реальные данные скорость упала до 20-30 сёк на 2000 записей.
Подскажите за что можно зацепится?
Партиционирование какое используется для таблиц?
источник