Size: a a a

ClickHouse не тормозит

2021 February 12

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Alexey
Скажите, имеет ли смысл юзать КХ для хранения пользовательских логов, которые при этом иногда нужно обновлять.
сначала нужно понять почему не подходят просто файлы. Т.е. КХ не для хранения хлама.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Bedretdinov Nadir
query_thread_log - сожрал 120GB как можно ограничить логирование
источник

RO

Required Optional in ClickHouse не тормозит
Добрый вечер коллеги. Задача со звездочкой: есть колонка типа массива куча линий. Есть секция where. Хотелось бы посчитать метрику по всем выбранным линиям и получить скалярное значение метрики. Идея использовать суффиксы State и Merge не работает. Пробовал на первом уровне делать arrayMap(x -> avgState(x)) as lvl1 кх ругается, что не знает колонку х от ламбда функции. Попробывал arrayMap(x -> avgState(clm[x]), arrayEnumerate(clm)) AS lvl1 - кх ругается: Unknown identifier: x there are columns: clm. avgForEach не позволяет потом собрать в скаляр... Функция то не линейная... Есть идеи?
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Required Optional
Добрый вечер коллеги. Задача со звездочкой: есть колонка типа массива куча линий. Есть секция where. Хотелось бы посчитать метрику по всем выбранным линиям и получить скалярное значение метрики. Идея использовать суффиксы State и Merge не работает. Пробовал на первом уровне делать arrayMap(x -> avgState(x)) as lvl1 кх ругается, что не знает колонку х от ламбда функции. Попробывал arrayMap(x -> avgState(clm[x]), arrayEnumerate(clm)) AS lvl1 - кх ругается: Unknown identifier: x there are columns: clm. avgForEach не позволяет потом собрать в скаляр... Функция то не линейная... Есть идеи?
боюсь никто не ответит, я прочитал 3 раза, ничено не понятно. Вы слишком далеко улетели, я например не знаю что такое "скалярное значение метрики"
источник

pk

papa karlo in ClickHouse не тормозит
Required Optional
Добрый вечер коллеги. Задача со звездочкой: есть колонка типа массива куча линий. Есть секция where. Хотелось бы посчитать метрику по всем выбранным линиям и получить скалярное значение метрики. Идея использовать суффиксы State и Merge не работает. Пробовал на первом уровне делать arrayMap(x -> avgState(x)) as lvl1 кх ругается, что не знает колонку х от ламбда функции. Попробывал arrayMap(x -> avgState(clm[x]), arrayEnumerate(clm)) AS lvl1 - кх ругается: Unknown identifier: x there are columns: clm. avgForEach не позволяет потом собрать в скаляр... Функция то не линейная... Есть идеи?
что такое "типа массива куча линий"
источник

RO

Required Optional in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
боюсь никто не ответит, я прочитал 3 раза, ничено не понятно. Вы слишком далеко улетели, я например не знаю что такое "скалярное значение метрики"
Ну в математике скаляр - это вещественное число (размерность = 0) потом идет вектор (размерность 1) потом матрица (размерность 2) и далее тензоры. Ну в общем я хотел бы посчитать например avg([1,  2, 3], [3, 4, 5])
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Required Optional
Ну в математике скаляр - это вещественное число (размерность = 0) потом идет вектор (размерность 1) потом матрица (размерность 2) и далее тензоры. Ну в общем я хотел бы посчитать например avg([1,  2, 3], [3, 4, 5])
arrayReduce('avg', flatten([[1],[2]])
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
select arrayReduce('avg', groupArrayArray(a)) from (select [1,2] a union all select [3,4])
источник

RO

Required Optional in ClickHouse не тормозит
papa karlo
что такое "типа массива куча линий"
куча линий в таблице в которой выбирается только некотрые. В таблице есть колонка у, которая есть массив вещественных чисел одной длины. Так вот хотелось бы посчитать одно число которое явлется метрикой по всем значениям в этом выбраных линиях массива.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
мы не используем слово линия, пишите уже сразу на англ.
источник

RO

Required Optional in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
arrayReduce('avg', flatten([[1],[2]])
спасибо попробую агрегитировать массив в матрицу
источник

RO

Required Optional in ClickHouse не тормозит
:) а как же чистота языка :)
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Required Optional
куча линий в таблице в которой выбирается только некотрые. В таблице есть колонка у, которая есть массив вещественных чисел одной длины. Так вот хотелось бы посчитать одно число которое явлется метрикой по всем значениям в этом выбраных линиях массива.
похоже что нужен avgMap, пример давайте что на входе что нужно на выходе
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Required Optional
:) а как же чистота языка :)
я в двуязычной провинции живу, мне можно
источник

RO

Required Optional in ClickHouse не тормозит
есть такой avgMap? в доке не нашел в комбинаторах агрегатных функций...
источник

l

lnuynxa in ClickHouse не тормозит
Required Optional
есть такой avgMap? в доке не нашел в комбинаторах агрегатных функций...
Нету, но можно через суммап попробовать
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
❌ Constantine ❌
Похоже я нашел проблему. Помог перезапуск КХ. DDL запросы отработали. Видимо проблема подключения с ЗК. Но это не точно. Тут вопрос как этом можно понять и сделать переподключение к ЗК? Если это вообще проблема с этим, так как я же без проблем делаю select * from system.zookeeper where path = '/clickhouse/task_queue/ddl' \G на проблемных хостах.
такое надо по логам КХ смотреть. Что-то странное вы говорите.
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Dj
наверно STOP REPLICA/START REPLICA
это не поможет, это вообще не про репликацию

тут скорее detach table / attach
источник

DC

Denny Crane [not a Y... in ClickHouse не тормозит
Edya
Коллеги, привет! Какой сейчас самый быстрый и простой способ скопировать стендалон инстанс кликхауса на другой хост? Нужно переехать с одного хоста на другой
вообще, rsync диф несколько раз на ходу , потом остановить КХ и финальный rsync
источник

❌ Constantine ❌ in ClickHouse не тормозит
Denny Crane [not a Yandex bot]
такое надо по логам КХ смотреть. Что-то странное вы говорите.
Подробные логи не были включены. Странно, не странно. А факт на лицо )) дитач/аттач чего? Я же создавал таблицу, как ее дитачить если ее нет?
источник