Size: a a a

ClickHouse не тормозит

2021 March 09

НЧ

Николай Чернов... in ClickHouse не тормозит
Dmitry Titov
Но должна быть исправлена в новых версиях
А насколько новых? В 21.2.3.15 ещё присутствует
источник

DT

Dmitry Titov in ClickHouse не тормозит
источник

DT

Dmitry Titov in ClickHouse не тормозит
В 21.3 работает
источник

GA

Gulshan Agivetova in ClickHouse не тормозит
Добрый день! Подскажите пожалуйста, есть ли возможность делать выборку из таблицы определенного шарда?
типа: select * from mytable@shard_5
источник

VC

Vladimir Chistyakov in ClickHouse не тормозит
Illia Slobozhanin
Если не поможет - глянуть на каждой из реплик select * from system.columns where table = ''name"
Если на части локал таблиц будет колонка, на части нет - можно попробовать на реплике где не удалилась руками удалить ещё раз (и если звёзды сойдутся - реплики засинкают метадату) у нас один раз из 10 срабатывало.
restart replica справилась, спасибо вам
источник

DT

Dmitry Titov in ClickHouse не тормозит
Gulshan Agivetova
Добрый день! Подскажите пожалуйста, есть ли возможность делать выборку из таблицы определенного шарда?
типа: select * from mytable@shard_5
sharding key указан?

или как вариант использовать remote table function
источник

ДЗ

Денис Загитов... in ClickHouse не тормозит
Ребят, привет! Подскажите как быть: заказчик убежден что надо делать DWH на ClickHouse) Есть ли у кого статьи/аргументы почему так не надо делать (с примерами)?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Денис Загитов
Ребят, привет! Подскажите как быть: заказчик убежден что надо делать DWH на ClickHouse) Есть ли у кого статьи/аргументы почему так не надо делать (с примерами)?
Для того, что бы были аргументы за или против нужно сначала разобратся какой и для чего вы будете строить DWH.
источник

GA

Gulshan Agivetova in ClickHouse не тормозит
Dmitry Titov
sharding key указан?

или как вариант использовать remote table function
в config.xml есть описания кластера и шардов, или что вы имеете в виду под sharding key? где и как он должен быть указан можете пожалуйста уточнить?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Gulshan Agivetova
в config.xml есть описания кластера и шардов, или что вы имеете в виду под sharding key? где и как он должен быть указан можете пожалуйста уточнить?
источник

ДЗ

Денис Загитов... in ClickHouse не тормозит
Dmitry Titov
Для того, что бы были аргументы за или против нужно сначала разобратся какой и для чего вы будете строить DWH.
Заливаем данные из разных источников, по пути проверяем качество, соединяем между собой и затем отдаем это в BI
источник

DT

Dmitry Titov in ClickHouse не тормозит
Денис Загитов
Заливаем данные из разных источников, по пути проверяем качество, соединяем между собой и затем отдаем это в BI
Если соединять будете до КХ и у вас там десятки-сотни миллионов строк в день то кх может и пойдет.
источник

DT

Dmitry Titov in ClickHouse не тормозит
Конкретно статей рода: не используйте кх для чего то определенного нет.
Можно пойти от обратного посмотреть для чего рекомендуется использовать кх

https://www.youtube.com/results?search_query=clickhouse+%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D0%BD%D0%B5%D0%BD%D0%B8%D0%B5+%D0%B7%D0%B0%D0%B9%D1%86%D0%B5%D0%B2
источник

DT

Dmitry Titov in ClickHouse не тормозит
Ну разве что есть такое на офф сайте
источник

M

Mishanya in ClickHouse не тормозит
Привет
подскажите, пожалуйста

есть запрос вида

select …
from distiubted_table
inner join (select … from local_table) // replacing merge tree
any left join (select … from view) // ~100 записей, запрос за 0.001 отрабатывает

запрос этот отрабатывает за 10 секунд

если обернуть верхний запрос во view

create view blabla as селект верхний запрос

то select count() from blabla будет работать уже 30+ секунд

по дебагу глянул, что 2021.03.09 11:34:50.924856 [ 27746 ] {27683dd2-c134-4d4d-a429-19c28d24f620} <Debug> CreatingSetsBlockInputStream: Created. Join with 20244545 entries from 20244545 rows. In 6.572 sec. вот эта штука работает дольше всего.

в чем концепутальная разница 1 и 2 запроса ?
источник

DT

Dmitry Titov in ClickHouse не тормозит
Mishanya
Привет
подскажите, пожалуйста

есть запрос вида

select …
from distiubted_table
inner join (select … from local_table) // replacing merge tree
any left join (select … from view) // ~100 записей, запрос за 0.001 отрабатывает

запрос этот отрабатывает за 10 секунд

если обернуть верхний запрос во view

create view blabla as селект верхний запрос

то select count() from blabla будет работать уже 30+ секунд

по дебагу глянул, что 2021.03.09 11:34:50.924856 [ 27746 ] {27683dd2-c134-4d4d-a429-19c28d24f620} <Debug> CreatingSetsBlockInputStream: Created. Join with 20244545 entries from 20244545 rows. In 6.572 sec. вот эта штука работает дольше всего.

в чем концепутальная разница 1 и 2 запроса ?
Какая версия?
источник

M

Mishanya in ClickHouse не тормозит
Dmitry Titov
Какая версия?
источник

ДЗ

Денис Загитов... in ClickHouse не тормозит
Dmitry Titov
Конкретно статей рода: не используйте кх для чего то определенного нет.
Можно пойти от обратного посмотреть для чего рекомендуется использовать кх

https://www.youtube.com/results?search_query=clickhouse+%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D0%BD%D0%B5%D0%BD%D0%B8%D0%B5+%D0%B7%D0%B0%D0%B9%D1%86%D0%B5%D0%B2
благодарю!
источник

DT

Dmitry Titov in ClickHouse не тормозит
Mishanya
Привет
подскажите, пожалуйста

есть запрос вида

select …
from distiubted_table
inner join (select … from local_table) // replacing merge tree
any left join (select … from view) // ~100 записей, запрос за 0.001 отрабатывает

запрос этот отрабатывает за 10 секунд

если обернуть верхний запрос во view

create view blabla as селект верхний запрос

то select count() from blabla будет работать уже 30+ секунд

по дебагу глянул, что 2021.03.09 11:34:50.924856 [ 27746 ] {27683dd2-c134-4d4d-a429-19c28d24f620} <Debug> CreatingSetsBlockInputStream: Created. Join with 20244545 entries from 20244545 rows. In 6.572 sec. вот эта штука работает дольше всего.

в чем концепутальная разница 1 и 2 запроса ?
были некоторые проблемы с перфомансем у view

set enable_debug_queries=1;

ANALYZE .... и оба запроса
источник

M

Mishanya in ClickHouse не тормозит
Dmitry Titov
были некоторые проблемы с перфомансем у view

set enable_debug_queries=1;

ANALYZE .... и оба запроса
второй(который вью) отваливаетсся по памяти DB::Exception: Memory limit (for query) exceeded: would use 6.00 EiB (attempt to allocate chunk of 6917529027638199666 bytes), maximum: 18.63 GiB.
в первом Logical error: incorrect table expression.
хотя без аналайза все ок в обеих

я чекал вообще через трейс левел
источник