Size: a a a

ClickHouse не тормозит

2020 August 10

S

Slach in ClickHouse не тормозит
Bogdan Kolesnik
Привет, я новичок, можно как-то связать MongoDB и Clickhouse, и чем? GrahpQL, Kafka??
что значит связать?
что хотите сделать?
вам монга зачем?
сколько документов в коллекции уже?
индексы вторичные есть?
aggregation framework пробоали?
источник

RG

Rinat G in ClickHouse не тормозит
Всем привет!
Подскажи плиз
Как настроить стриминг данных из Google analytics с clickhouse
источник

S

Slach in ClickHouse не тормозит
Rinat G
Всем привет!
Подскажи плиз
Как настроить стриминг данных из Google analytics с clickhouse
https://bitbucket.org/clickhouse_pro/ga2clickhouse
это стриминг через плагин в analytics.js
это не выгрузка из API
источник

RG

Rinat G in ClickHouse не тормозит
Slach
https://bitbucket.org/clickhouse_pro/ga2clickhouse
это стриминг через плагин в analytics.js
это не выгрузка из API
спасибо, может сможете подсказать, а real-time там можно настроить?
источник

S

Slach in ClickHouse не тормозит
Rinat G
спасибо, может сможете подсказать, а real-time там можно настроить?
я ссылку привел
это realtime и есть
весь measurement протокол будет стримиться если правильно JS настроите
источник

RG

Rinat G in ClickHouse не тормозит
Slach
я ссылку привел
это realtime и есть
весь measurement протокол будет стримиться если правильно JS настроите
спасибо большое)
источник

S

Slach in ClickHouse не тормозит
Rinat G
спасибо большое)
если что-то не заработает, пишите в чат
это старый софт
щас у гугла могло поломаться API с measurement protocol
источник

RG

Rinat G in ClickHouse не тормозит
Slach
если что-то не заработает, пишите в чат
это старый софт
щас у гугла могло поломаться API с measurement protocol
хорошо, спасибо)
источник

RG

Rinat G in ClickHouse не тормозит
но API mrt protocol работает
источник

DL

Danil Lugovskoy in ClickHouse не тормозит
Всем привет!
Я для миграций использую GO migrate.
и хочу подключить engine для кафки.
Одно из полей для создании таблицы с кафкой это путь до нее.
Но мне прям очень не хочется хардкодить в миграции путь до кафки, кто как решает подобную задачу?
источник

DS

Denis Smolyar in ClickHouse не тормозит
вечер добрый.

появился вопрос: у меня запрос есть “select from select” и если этот запрос выполнить несколько раз подряд, то он отдает разное количество строк.

понятно что я записи не добавляю уже, количество строк у меня либо 653, либо 650, и так вот эти две цифры чередуются.

это так и должно быть, или от чего зависит?
источник

D

Dj in ClickHouse не тормозит
Denis Smolyar
вечер добрый.

появился вопрос: у меня запрос есть “select from select” и если этот запрос выполнить несколько раз подряд, то он отдает разное количество строк.

понятно что я записи не добавляю уже, количество строк у меня либо 653, либо 650, и так вот эти две цифры чередуются.

это так и должно быть, или от чего зависит?
Если проксей и семплинга/рандома нет, то баг наверно.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Denis Smolyar
вечер добрый.

появился вопрос: у меня запрос есть “select from select” и если этот запрос выполнить несколько раз подряд, то он отдает разное количество строк.

понятно что я записи не добавляю уже, количество строк у меня либо 653, либо 650, и так вот эти две цифры чередуются.

это так и должно быть, или от чего зависит?
две реплики и они разошлись?
запрос неидемпотентный? -- в это сложно поверить, я понимаю, но это возможно, из-за многопоточности
источник

DS

Denis Smolyar in ClickHouse не тормозит
реплики две, да.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Denis Smolyar
реплики две, да.
ну select count() from прямо в MergeTree таблицу на каждой реплике
источник

K

Kid in ClickHouse не тормозит
@den_crane Привет. Мердж партов происходит самовольно или есть параметр по которому можно им управлять?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Kid
@den_crane Привет. Мердж партов происходит самовольно или есть параметр по которому можно им управлять?
Шедулер мержей раз в 5(?) сек. и на каждый инсерт анализирует все парты и решает надо мержить или нет. Решение принимается в зависимости от кол-ва, размеров партов, и текущей загрузки мержами инстанса. Управлять можно в том смысле что можно увеличить кол-во одновременных мержей увеличив пул, но в конечном счете вы не получите полностью смерженные до 1го парта партиции, потому что это бессмысленная трата ресурсов, с точки зрения алгоритма шедулера.
источник

K

Kid in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
Шедулер мержей раз в 5(?) сек. и на каждый инсерт анализирует все парты и решает надо мержить или нет. Решение принимается в зависимости от кол-ва, размеров партов, и текущей загрузки мержами инстанса. Управлять можно в том смысле что можно увеличить кол-во одновременных мержей увеличив пул, но в конечном счете вы не получите полностью смерженные до 1го парта партиции, потому что это бессмысленная трата ресурсов, с точки зрения алгоритма шедулера.
Благодарю)
источник

S

Slach in ClickHouse не тормозит
Kid
@den_crane Привет. Мердж партов происходит самовольно или есть параметр по которому можно им управлять?
вы не должны этого хотеть. шедулер нормально написан
вставляйте боьлшими пачками в меньшее кол-во партиций и все будет хорошо
источник

K

Kid in ClickHouse не тормозит
Slach
вы не должны этого хотеть. шедулер нормально написан
вставляйте боьлшими пачками в меньшее кол-во партиций и все будет хорошо
Проблема не в этом, данных заходят хорошо, проблем нет
источник