Size: a a a

ClickHouse не тормозит

2020 September 23

AK

Anton Kondakov in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
не надо 20.1 берите хотя бы 20.3 последнюю
А она с 19-ой обратно совместима? Конфиги и структуру таблица менять не потребуется
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Anton Kondakov
А она с 19-ой обратно совместима? Конфиги и структуру таблица менять не потребуется
не потребуется
источник

AA

Abdugani Adikhanov in ClickHouse не тормозит
Добрый вечер, Коллеги. У меня возникла проблема при подключении к кафке.
Все было сделано как описано в документации:
create table transactions
(
   id                        Int64,
   active                    UInt8,
   action                    UInt8,
   parent_id                 Nullable(Int64),
   error_id                  Nullable(Int64),
   type                      String
)
engine = Kafka('192.168.60.2:9092', '
test', 'group1') SETTINGS kafka_format = 'JSONEachRow', kafka_num_consumers = 4;
но почему то получаю не совсем корректные данные
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Abdugani Adikhanov
Добрый вечер, Коллеги. У меня возникла проблема при подключении к кафке.
Все было сделано как описано в документации:
create table transactions
(
   id                        Int64,
   active                    UInt8,
   action                    UInt8,
   parent_id                 Nullable(Int64),
   error_id                  Nullable(Int64),
   type                      String
)
engine = Kafka('192.168.60.2:9092', '
test', 'group1') SETTINGS kafka_format = 'JSONEachRow', kafka_num_consumers = 4;
но почему то получаю не совсем корректные данные
JSONEachRow -- это особый формат, который понимает КХ и это НЕ JSON
Очевидно ваш поток в кафке вообще не JSONEachRow
источник

СФ

Сергей Фесенко... in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
с чего бы просто select * быть быстрее? Это надо в диски упереться на 100%.

и как вы тестируете select * ? Я бы тестил select * from hits_v1 format Null -- чтобы клиент и сеть не были узким местом

и например попробуйте select * hits_v1 from where ClientIP = 666

и еще например select RegionID , count() hits_v1 from group by RegionID
CH и distributed созданы для запросов group by , а не для select *
Спасибо большое, действительно запросы с group by показывают прирост скорости. Еще почитаю матчасть
источник

IB

Ivan Blinkov in ClickHouse не тормозит
Секретный доклад Yandex Scale уже через 15 минут⚡️

Узнайте главные анонсы Yandex.Cloud в прямом эфире.

Смотреть трансляцию→
источник

D

Dj in ClickHouse не тормозит
【D】【J】, [23.09.20 17:46]
groupBy над distributed, сначала группирует локально потом присылает стейты на инициатор?
источник

AR

Alexander Ryzhenko in ClickHouse не тормозит
А подскажет кто - как правильно выбрать версию CH?
Их много, есть ЛТС, но не все, что выходит/патчится в более поздних версиях тоже присутствует в ЛТС. И то что фиксится в более ранних версиях остается непофикшеным в более поздних
источник

D

Dj in ClickHouse не тормозит
Dj
【D】【J】, [23.09.20 17:46]
groupBy над distributed, сначала группирует локально потом присылает стейты на инициатор?
уже ответили что да... вопрос снят
источник

D

Dj in ClickHouse не тормозит
Alexander Ryzhenko
А подскажет кто - как правильно выбрать версию CH?
Их много, есть ЛТС, но не все, что выходит/патчится в более поздних версиях тоже присутствует в ЛТС. И то что фиксится в более ранних версиях остается непофикшеным в более поздних
>И то что фиксится в более ранних версиях остается непофикшеным в более поздних
нет, что фиксится в ранних, фиксится и в поздних если не что-то специфичное.
источник

D

Dj in ClickHouse не тормозит
Alexander Ryzhenko
А подскажет кто - как правильно выбрать версию CH?
Их много, есть ЛТС, но не все, что выходит/патчится в более поздних версиях тоже присутствует в ЛТС. И то что фиксится в более ранних версиях остается непофикшеным в более поздних
если новый функционал не нужен, берите ЛТС
источник

AR

Alexander Ryzhenko in ClickHouse не тормозит
Dj
>И то что фиксится в более ранних версиях остается непофикшеным в более поздних
нет, что фиксится в ранних, фиксится и в поздних если не что-то специфичное.
ну у нас был опыт переезда на LTS  с более ранней версии и в LTS было сломано то, что нормально рабатола на старой. Я про Table engine dictionary
источник

AR

Alexander Ryzhenko in ClickHouse не тормозит
В общем, брать максимальную и пробовать апгрейдиться на нее на тестовом стенде?
источник

D

Dj in ClickHouse не тормозит
Alexander Ryzhenko
ну у нас был опыт переезда на LTS  с более ранней версии и в LTS было сломано то, что нормально рабатола на старой. Я про Table engine dictionary
ну, иногда что-то пролетает мимо, тут гарантий нет
источник

AR

Alexander Ryzhenko in ClickHouse не тормозит
Dj
если новый функционал не нужен, берите ЛТС
ну хочется иногда юзать новые штуки :)
источник

D

Dj in ClickHouse не тормозит
Alexander Ryzhenko
В общем, брать максимальную и пробовать апгрейдиться на нее на тестовом стенде?
вам с какой апгрейдится? если совсем с древней то лучше на ту что поимела уже 7-8 багфиксов
источник

D

Dj in ClickHouse не тормозит
Alexander Ryzhenko
ну хочется иногда юзать новые штуки :)
иначе будете добровольным тестером, проверено =)
источник

AR

Alexander Ryzhenko in ClickHouse не тормозит
Dj
вам с какой апгрейдится? если совсем с древней то лучше на ту что поимела уже 7-8 багфиксов
ну у нас 20.4.5.36 и есть пробемы с кафкой. Вчера тут долго мне помогали (спасибо еще раз).
Порекомендовали 20.6 - там с кафкой все лучше. А смотрю на докерхабе есть 20.9 даже. И вот думаю. 20.6 или 20.9 ?
источник

Э

Эмил in ClickHouse не тормозит
Эмил
        CREATE TABLE logs (
       `created_datetime` DateTime DEFAULT now(),
       `event_datetime` DateTime,
       ) ENGINE = MergeTree PARTITION BY toYYYYMM(event_datetime)
       ORDER BY
       (event_datetime, msisdn) TTL event_datetime + toIntervalWeek(1)


Создавал таблицу так, надежде что запись удалится течении недели.

Прошла неделя но записи не удаляются.

Например есть записи на datetime

2020-09-15 20:52:37

В чем может быть косяк?
UPDATE:

Записи удалились. Видимо я сам неправильно подсчитал дату
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Alexander Ryzhenko
А подскажет кто - как правильно выбрать версию CH?
Их много, есть ЛТС, но не все, что выходит/патчится в более поздних версиях тоже присутствует в ЛТС. И то что фиксится в более ранних версиях остается непофикшеным в более поздних
в LTS все пофикшено
источник