Size: a a a

ClickHouse не тормозит

2020 June 26

DT

Dmitry Titov in ClickHouse не тормозит
Kasabian
schema id меняется автоматом при выпуске новой схемы и приходит в каждом кафка сообщении
только  насколько я понимаю что clickhouse не перезапрашивает его если кеше уже есть схема с таким именем

дело в том что пробовал даже чистить старые схемы с регистри по моему тестовому топику, но кликхаус продолжнал жить со старой схемой
Ну значит об этом просто не подумали и нужно писать багу на гитхаб, пофиксят
источник

DT

Dmitry Titov in ClickHouse не тормозит
AvroConfluent only caches schemas per an instance of an InputFormat. This means SchemaRegistry will be queried each time a batch from Kafka is processed.
из пулл реквеста
Но судя по твоим словам это не совсем так
источник

DT

Dmitry Titov in ClickHouse не тормозит
источник

C

Constantine in ClickHouse не тормозит
подскажите для словаря ip_trie есть какие-то ограничения по памяти? то есть мы грузим geoip в формате CSVWithNames. и обнаружили, что загружаем до 24577 строки. если удалить первую строчку становится доступна строка 24578 )))  КХ версии 20.1.11.73
источник

K

Kasabian in ClickHouse не тормозит
да но в то же время в документации по AvroConfluent формату написано следующее "Schemas are cached once resolved."
что точно описывает поведение которое я получаю

я чесно говоря ожидал что как минимум что есть еще какие то воркараунды как например в Impala
что бы зарелоадить конфиги, таблицы или бд
https://docs.cloudera.com/runtime/7.1.0/impala-reference/topics/impala-avro.html
блок Handling Avro Schema Evolution
источник

DT

Dmitry Titov in ClickHouse не тормозит
https://github.com/ClickHouse/ClickHouse/pull/8953/files/927e572d39432d22ae96e087674a5124c6e2931b#diff-7d52759ffa35f632ce98cfb2b24b1855

Тут в комментах к коду вроде логично написано про url и тд
источник

K

Kasabian in ClickHouse не тормозит
@unamedrus интересно, спасибо 👍🏻
источник

DT

Dmitry Titov in ClickHouse не тормозит
У меня есть подозрения, что меняя url регистри ты сможешь это дело сбрасывать,
И есть такая отвратительная идея, сделать nginx который будет все перенаправлять на регистри, но позволит тебе вносить бесконечное число изменений в сам url, но я не уверен, что это будет работать
источник

DT

Dmitry Titov in ClickHouse не тормозит
LOG_TRACE((&Logger::get("AvroConfluentRowInputFormat")),
"Succesfully fetched schema  id = " << id << "\n" << schema);
А как он в логах плюется?
источник

tc

to0n1 ccc in ClickHouse не тормозит
Dmitry Titov
ASOF join тогда
да, смотрел на него, очень похоже на то, что мне нужно
но почему то не получается добавить в выборку колонки из приджоиненой таблицы
источник

tc

to0n1 ccc in ClickHouse не тормозит
пишет column not found
источник

DT

Dmitry Titov in ClickHouse не тормозит
ты ее через alias везде пишешь?
источник

DT

Dmitry Titov in ClickHouse не тормозит
SELECT e2.column FROM event e JOIN event e2
источник

tc

to0n1 ccc in ClickHouse не тормозит
все, разобрался, проблема была в group by по другому полю
источник

tc

to0n1 ccc in ClickHouse не тормозит
ошибку КХ не правильно показывал
источник

tc

to0n1 ccc in ClickHouse не тормозит
больше спасибо!
источник

AT

Al T in ClickHouse не тормозит
Dj
ищем full-time сотрудника (если вы гуру, то можем и консультантом на пару месяцев обсудить с сохранением основной работы).
работа в Стамбуле, солнце, море, песок, подвал, ночи в офисе, кому-что (можно периодически удаленно если очень надо, обсуждаемо)

команда охеренная, задачи нереальные, кому интересно пишите в личку )
https://piworks.bamboohr.com/jobs/view.php?id=157
в подвале в Стамбуле ))  но есть окно чтобы смотреть на море, солнце и песок ))
источник

AT

Al T in ClickHouse не тормозит
кстати вот турецкие стартапы набирают обороты...
источник

D

Dj in ClickHouse не тормозит
Al T
в подвале в Стамбуле ))  но есть окно чтобы смотреть на море, солнце и песок ))
ну, зато видно )
источник

AT

Al T in ClickHouse не тормозит
Dj
ну, зато видно )
да я не отговариваю никого, Стамбул должно быть здорово
источник