Size: a a a

ClickHouse не тормозит

2020 June 25

IS

Illia Slobozhanin in ClickHouse не тормозит
Alexander Ryzhenko
Доброго времени суток. Скажите, есть ли возможность ограничить потребление CPU юзеру или кликхаусу вообще?
Через конфиг  можно ограничивать. Вплоть до объема сетевой отдачи, вроде
источник

IS

Illia Slobozhanin in ClickHouse не тормозит
источник

AR

Alexander Ryzhenko in ClickHouse не тормозит
Изучали этот раздел. По CPU ограничений не нашли
источник

NR

Nathan Rivers in ClickHouse не тормозит
ok good :)
источник

В

Влад in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
hostname -f на новых узлах случайно не localhost ?
Нет, перепроверил.

Но проблему нашел. Видимо после развертывания машины из preseed, до отъезда в дц, в /etc/hosts остались адреса из локальной сети. Указывающие на собственный хостнейм машины.

После правки этого дела, все заработало.
Спасибо что подтолкнули смотреть в этом направлении!
источник

D

Dj in ClickHouse не тормозит
Alexander Ryzhenko
Доброго времени суток. Скажите, есть ли возможность ограничить потребление CPU юзеру или кликхаусу вообще?
clickhouse вообще - запуском через "taskset" (выставляйте аффинити)
источник

AP

Alexander Petrov in ClickHouse не тормозит
Rail
В том поде где создана таблица infi_clickhouse_orm_migrations есть все миграции, в других подах нет этой таблицы infi_clickhouse_orm_migrations
Очевидно не на всех подах применяются миграции. А как трафик с миграционными запросами маршрутизируется до подов? Может такое быть что кубер все запросы в один под шлёт?
источник

AP

Alexander Petrov in ClickHouse не тормозит
Rail
В том поде где создана таблица infi_clickhouse_orm_migrations есть все миграции, в других подах нет этой таблицы infi_clickhouse_orm_migrations
Или вы сами это делаете. Адрес settings.CLICKHOUSE_HOST на что указывает?
источник

AP

Alexander Petrov in ClickHouse не тормозит
Rail
я не утверждал, что оператор в этом виноват
для миграций используется либа https://github.com/Infinidat/infi.clickhouse_orm/blob/develop/docs/schema_migrations.md#running-migrations
Запускаются так
from django.conf import settings
from django.core.management.base import BaseCommand

from infi.clickhouse_orm.database import Database


class Command(BaseCommand):

   def handle(self, *args, **options):
       db = Database(
           settings.CLICKHOUSE_DB,
           db_url="http://{}:8123/".format(settings.CLICKHOUSE_HOST),
           username=settings.CLICKHOUSE_USER,
           password=settings.CLICKHOUSE_PASSWORD
       )
       db.migrate('users.users_migrations')
       db.migrate('events.events_migrations')

в итоге таблицы ReplicatedMergeTree созданы во всех подах, остальные таблицы разбросаны по подам
И ещё странно что таблицы в CH таки создались, а таблица c миграциями - нет. Может быть даже запросы одной команды на запуск миграции раскидываются по разным подам.
источник

A

Alexey in ClickHouse не тормозит
Всем привет, может кто-нибудь подсказать по словарю с ключем String?
Создаю словарь, наполняю таблицу данными:
CREATE DICTIONARY dict_country (
 country String DEFAULT 'unknown',
 country_code String DEFAULT 'unknown'
)
PRIMARY KEY country
SOURCE(CLICKHOUSE(HOST ..... ))
LIFETIME(MIN 1 MAX 10)
LAYOUT(complex_key_hashed());


Проверяю, все работает:
SELECT dictGet('mydb.dict_country', 'country_code', tuple('Russia'))


Добавляю в селект из таблицы (поле country):
select dictGet('mydb.dict_country', 'country_code', tuple(country)) as country_code
from ...

Получаю ошибку:
SQL Error [42]: ClickHouse exception, code: 42, host: chdb.datos.live, port: 54345; Code: 42, e.displayText() = DB::Exception: Function dictGet... takes 3 or 4 arguments (version 20.4.3.16 (official build))


Что делаю не так?
источник

VT

Vladimir Tretyakov in ClickHouse не тормозит
Вопрос, возможно дурацкии, но может когда-нибудь или теоретически возможно получить что-то вроде

select k-means(number-of-cluster=10, distance-methods=[ngrams, evklidovo, evklidovo]))(columnA, columnB, columnC...) from Table where.... 

ну и ответ как список групп строк по кластерам или как-то еще
источник

DT

Dmitry Titov in ClickHouse не тормозит
Alexey
Всем привет, может кто-нибудь подсказать по словарю с ключем String?
Создаю словарь, наполняю таблицу данными:
CREATE DICTIONARY dict_country (
 country String DEFAULT 'unknown',
 country_code String DEFAULT 'unknown'
)
PRIMARY KEY country
SOURCE(CLICKHOUSE(HOST ..... ))
LIFETIME(MIN 1 MAX 10)
LAYOUT(complex_key_hashed());


Проверяю, все работает:
SELECT dictGet('mydb.dict_country', 'country_code', tuple('Russia'))


Добавляю в селект из таблицы (поле country):
select dictGet('mydb.dict_country', 'country_code', tuple(country)) as country_code
from ...

Получаю ошибку:
SQL Error [42]: ClickHouse exception, code: 42, host: chdb.datos.live, port: 54345; Code: 42, e.displayText() = DB::Exception: Function dictGet... takes 3 or 4 arguments (version 20.4.3.16 (official build))


Что делаю не так?
dictGetString?
источник

A

Alexey in ClickHouse не тормозит
Dmitry Titov
dictGetString?
Спасибо! Заработало)
источник

N

Nikita Blagodarnyy in ClickHouse не тормозит
Никто не сталкивался, что таблицы с движком ODBC плодят дубликаты?
источник

AS

Alexander Shebanin in ClickHouse не тормозит
Всем доброго дня, вместо короноуныния, у кого-нибудь был кейс, когда они осозновали, что им можно заменить огрмную merge tree таблицу, поверх которой стоят куча материализованных вьюх, на таблицу с движком null?
источник

Y

Yuran in ClickHouse не тормозит
Alexander Shebanin
Всем доброго дня, вместо короноуныния, у кого-нибудь был кейс, когда они осозновали, что им можно заменить огрмную merge tree таблицу, поверх которой стоят куча материализованных вьюх, на таблицу с движком null?
Да :)
источник

Y

Yuran in ClickHouse не тормозит
Мне кажется, основное применение движка Null в этом и состоит: чтобы уметь хранить только агрегаты без сырых данных
источник

AS

Alexander Shebanin in ClickHouse не тормозит
Фух, я думал, что мы одни такие. Не подскажите свой алгоритм действий, после этапа принятия необходимости? Натыкались ли на камни?
источник

Y

Yuran in ClickHouse не тормозит
Alexander Shebanin
Фух, я думал, что мы одни такие. Не подскажите свой алгоритм действий, после этапа принятия необходимости? Натыкались ли на камни?
Из минусов — для того, чтобы получить получить пример сырых данных, нужно ещё один mat view временно создавать, чтобы туда параллельно вставлялось
источник

Y

Yuran in ClickHouse не тормозит
А так — заменяете таблицу и всё :). Заодно с репликацией не нужно возиться.
источник