D
сейчас всё равно не понял,
табличку создать и в неё заимпортить из Google Sheet определенные данные
табличку создать и в неё заимпортить из Google Sheet определенные данные
Да. Но если будете join делать используйте join engine. Либо словарь.
Size: a a a
2020 September 17
DC
^^ Сделал STOP MERGES - сразу завелось. Если я уже уперся в IOPS (максимум что может выдать AWS - 16к на 16ТБ диске) - дальше уже только скейлинг горизонтально?
начиная с 20.4 или 20.5 alter сам делает stop merges
CO
Да. Но если будете join делать используйте join engine. Либо словарь.
Планирую конектить к другой таблице (почти 800 гб)
D
DC
Неужели поиск строки в массиве строк в запросе занимает большее время. чем подстроку в строке?
Проверил на ~1кк записей, такими способами:
Подстроку
WHERE position(MyStringColumn, 'findmetext') > 0
Элемент массива (оба способа примерно в 2 раза дольше ищут)
ARRAY JOIN MyStringColumn as el WHERE el = 'findmetext'
where arrayExists(x -> x = 'findmetext', MyStringColumn) = 1
Проверил на ~1кк записей, такими способами:
Подстроку
WHERE position(MyStringColumn, 'findmetext') > 0
Элемент массива (оба способа примерно в 2 раза дольше ищут)
ARRAY JOIN MyStringColumn as el WHERE el = 'findmetext'
where arrayExists(x -> x = 'findmetext', MyStringColumn) = 1
like еще быстрее. Массивы не для поиска и необязательно для строк
D
Планирую конектить к другой таблице (почти 800 гб)
A(
like еще быстрее. Массивы не для поиска и необязательно для строк
Окей, спасибо
YT
привет !
как можно сделать так, что при вставке если вставляемый кусок данных не соответствует типу данных столбца, определенного при создании таблицы, то вставлялось бы дефолтное значение столбца, а не прилетала бы ошибка вставки ?
как можно сделать так, что при вставке если вставляемый кусок данных не соответствует типу данных столбца, определенного при создании таблицы, то вставлялось бы дефолтное значение столбца, а не прилетала бы ошибка вставки ?
DC
привет !
как можно сделать так, что при вставке если вставляемый кусок данных не соответствует типу данных столбца, определенного при создании таблицы, то вставлялось бы дефолтное значение столбца, а не прилетала бы ошибка вставки ?
как можно сделать так, что при вставке если вставляемый кусок данных не соответствует типу данных столбца, определенного при создании таблицы, то вставлялось бы дефолтное значение столбца, а не прилетала бы ошибка вставки ?
нельзя.
Можно ожидать String и конвертировать функциями to...OrZero используя Materialized view или input function
Можно ожидать String и конвертировать функциями to...OrZero используя Materialized view или input function
YT
нельзя.
Можно ожидать String и конвертировать функциями to...OrZero используя Materialized view или input function
Можно ожидать String и конвертировать функциями to...OrZero используя Materialized view или input function
спасибо
AR
Добрый день.
У нас отпадают консюмеры кафки. Все никак не можем побороть.
ClickHouse server version 20.4.5 revision 54434
В какую сторону смотреть?
У нас отпадают консюмеры кафки. Все никак не можем побороть.
ClickHouse server version 20.4.5 revision 54434
Sep 16 11:49:38 clickhouse-master-node clickhouse-server[46716]: %4|1600256978.523|MAXPOLL|ClickHouse 20.4.5.36#consumer-10| [thrd:main]: Application maximum poll interval (300000ms) exceeded by 109ms (adjust max.poll.interval.ms for long-running message processing): leaving groupНа сервере 6 таблиц Kafka Engine. Все в одной консюмер группе, по 2 консюмера на топик/таблицу. В топиках по 2 партишна. РПС по кафке не большой - до 1000 msg/sec суммарно по всем слушаемым топикам.
В какую сторону смотреть?
up
AJ
Там был когда-то баг, но вроде фиксили. Сейчас попробую найти версию где был фикс
MF
Добрый день.
У нас отпадают консюмеры кафки. Все никак не можем побороть.
ClickHouse server version 20.4.5 revision 54434
В какую сторону смотреть?
У нас отпадают консюмеры кафки. Все никак не можем побороть.
ClickHouse server version 20.4.5 revision 54434
Sep 16 11:49:38 clickhouse-master-node clickhouse-server[46716]: %4|1600256978.523|MAXPOLL|ClickHouse 20.4.5.36#consumer-10| [thrd:main]: Application maximum poll interval (300000ms) exceeded by 109ms (adjust max.poll.interval.ms for long-running message processing): leaving groupНа сервере 6 таблиц Kafka Engine. Все в одной консюмер группе, по 2 консюмера на топик/таблицу. В топиках по 2 партишна. РПС по кафке не большой - до 1000 msg/sec суммарно по всем слушаемым топикам.
В какую сторону смотреть?
кажется вы как-то очень неудачно подкрутили кафкины настройки
AR
кажется вы как-то очень неудачно подкрутили кафкины настройки
Кафку вообще не тюнили пока что
AR
кажется вы как-то очень неудачно подкрутили кафкины настройки
или Вы о настройках кафки в КХ?
AJ
судя по всему в
19.8.1.528 был фикс, вопрос в том присутсвует ли он в вашей версии.MF
или Вы о настройках кафки в КХ?
Я о:
select * from system.settings where name='stream_poll_timeout_ms';
AR
Я о:
select * from system.settings where name='stream_poll_timeout_ms';
name: stream_poll_timeout_ms
value: 500
changed: 0MF
Вообще очень советую для всех кафка-пользователей обновиться на >20.5 (лучше всего последнюю 20.6).
AR
Вообще очень советую для всех кафка-пользователей обновиться на >20.5 (лучше всего последнюю 20.6).
А там починили Table engine Dictionary ?