Size: a a a

ClickHouse не тормозит

2020 August 10

DC

Denny Crane (I don't... in ClickHouse не тормозит
если бы не завезли движки Replacing и Collapsing никто бы этого и не хотел
источник

S

Slach in ClickHouse не тормозит
Kid
Проблема не в этом, данных заходят хорошо, проблем нет
а зачем тогда вам управлять мержем?
источник

ls

løst søul in ClickHouse не тормозит
Slach
а зачем тогда вам управлять мержем?
хотелось узнать почему merge может не выполняться,
@den_crane ответил
источник

A

Alik in ClickHouse не тормозит
Привет всем, не подскажете, как можно автоматически через jdbc создавать таблицы с nullable значениями и соответственно записывать данные, просто через dataFrame.write.jdbc не получается, выдается ошибка, что найден null-value
источник

A

Alik in ClickHouse не тормозит
то есть он не определяет колонку как nullable
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Alik
Привет всем, не подскажете, как можно автоматически через jdbc создавать таблицы с nullable значениями и соответственно записывать данные, просто через dataFrame.write.jdbc не получается, выдается ошибка, что найден null-value
К.О.:
вообще nullable в КХ это проблема, потому что они занимают место и замедляют запросы, и лучше не иметь nullable вообще
если вам фиолетово на такой тонкий момент, то надо создавать поля как Col Nullable(String), Col1 Nullable(Int8)
источник

A

Alik in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
К.О.:
вообще nullable в КХ это проблема, потому что они занимают место и замедляют запросы, и лучше не иметь nullable вообще
если вам фиолетово на такой тонкий момент, то надо создавать поля как Col Nullable(String), Col1 Nullable(Int8)
я понимаю, но как это делать автоматически через dataframe.write.jdbc, а не создавать вручную таблицы
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
бог миловал, я не знаю что такое dataframe.write.jdbc и работаю в компании где за создание таблиц автоматически, сразу отрубают все пальцы на всех руках и ногах.
источник

A

Alik in ClickHouse не тормозит
я пишу эту строчку для загрузки данных в КХ     dataFrame.write.jdbc(url=chUrl, table=chTableName, mode='append',
                        properties=json.loads(chConfig))
источник

A

Alik in ClickHouse не тормозит
я просто хотел для себя попробовать, но я понял Вас, спасибо большое за ответ
источник

IG

Ivan G in ClickHouse не тормозит
Привет!
Можно ли в ClickHouse создать динамический запрос, который будет считать count за последние 7 дней у всех таблиц с определенной схемы?

Например:
1) схеме analytics есть 3 таблицы.
Мониторинг показывает count по каждой из этих таблиц за последние 7 дней.

2) В схеме analytics появилась четвертая таблица.  
Мониторинг учитывает новую таблицу и считает count за последние 7 дней.

Есть мысли реализовать это через питон и system.tables, но пока интересует реализация именно через CH)
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Ivan G
Привет!
Можно ли в ClickHouse создать динамический запрос, который будет считать count за последние 7 дней у всех таблиц с определенной схемы?

Например:
1) схеме analytics есть 3 таблицы.
Мониторинг показывает count по каждой из этих таблиц за последние 7 дней.

2) В схеме analytics появилась четвертая таблица.  
Мониторинг учитывает новую таблицу и считает count за последние 7 дней.

Есть мысли реализовать это через питон и system.tables, но пока интересует реализация именно через CH)
нельзя
источник

IG

Ivan G in ClickHouse не тормозит
спасибо!
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Ivan G
спасибо!
правда можно  нагенерить SQL запрос используя system.tables , но как узнать по какой колонке брать 7 дней?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Ivan G
спасибо!
а кстати у таблиц одинаковая структура? и похожие имена ?
источник

IG

Ivan G in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
а кстати у таблиц одинаковая структура? и похожие имена ?
Структура да, все даты называются тоже одинаково.
А каким образом можно сгенерировать SQL запрос?
Я думал использовать:  arrayMap + groupArray(table_name) + использовать arrayStringConcat + UNION
Только на выходе будет строка с текстом запроса, а не сам запрос.
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Ivan G
Структура да, все даты называются тоже одинаково.
А каким образом можно сгенерировать SQL запрос?
Я думал использовать:  arrayMap + groupArray(table_name) + использовать arrayStringConcat + UNION
Только на выходе будет строка с текстом запроса, а не сам запрос.
если одинаковая структура тогда engine=Merge накрывает их всех и дальше используя виртуальное поле _table группируем
источник

IG

Ivan G in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
если одинаковая структура тогда engine=Merge накрывает их всех и дальше используя виртуальное поле _table группируем
Благодарю за помощь
источник

K

Kid in ClickHouse не тормозит
Таблица MergeTree с ключом по дате. В таблице 2 строки. Делаю freeze, потом делаю аттачед. Строки задублировались. Стоит ли ожидать, что через некоторое время 4 строки станут 2-мя?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Kid
Таблица MergeTree с ключом по дате. В таблице 2 строки. Делаю freeze, потом делаю аттачед. Строки задублировались. Стоит ли ожидать, что через некоторое время 4 строки станут 2-мя?
никогда не станут. С чего бы вдруг.
источник