Size: a a a

ClickHouse не тормозит

2020 May 19

DC

Denny Crane (I don't... in ClickHouse не тормозит
Abi Palagashvili
А имеется ли возможность сделать синхронный alter table?
Мне надо дропнуть партицию и заново налить её, хочу убедиться, что новые данные не попадут под действие drop partition
drop партиции синхронный
источник

AP

Abi Palagashvili in ClickHouse не тормозит
понял, спасибо
источник

V

Vladimir in ClickHouse не тормозит
Всем привет!
У меня есть geohash в котором закодирован полигон.
Хочу проверить точку на вхождение в этот полигон

Функция pointInPolygon сходу не подходит, так как мой полигон в формате геохэша, а не в формате tuple координат.

Подскажите, возможно ли
1) Декодировать мой геохэш в tuple координат?
2) Если нет, то как-то подругому проверить вхождение точки в мой полигон(в рамках кх)?
источник

V

Vladimir in ClickHouse не тормозит
Вот так выглядит мой геохэш полигона(столбик st_union) и вот как выглядит geohashDecode(st_union) - в виде одной точки((
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Vladimir
Вот так выглядит мой геохэш полигона(столбик st_union) и вот как выглядит geohashDecode(st_union) - в виде одной точки((
pointInPolygon(  geohashDecode(st_union) as x).1 , x.2 , полигон)
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
т.е.

select (tuple(11,22) as a).1, a.2

┌─tupleElement((11, 22), 1)─┬─tupleElement((11, 22), 2)─┐
│                        11 │                        22 │
└───────────────────────────┴───────────────────────────┘
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
хотя зачем? geohashDecode выдает tuple , pointInPolygon ждет тупла
источник

KS

Konstantin Sevastian... in ClickHouse не тормозит
а как внутри геохэша оказался полигон?
источник

V

Vladimir in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
хотя зачем? geohashDecode выдает tuple , pointInPolygon ждет тупла
он выдает тупл 1 точки
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Vladimir
он выдает тупл 1 точки
и ? pointInPolygon ждет тупла точки, а полигон задается константой, туда все равно положить ничего нельзя. Пример дайте, иначе непонятно
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
а, я перечитал. st_union -- это точка, это не полигон
источник

V

Vladimir in ClickHouse не тормозит
оговорился. У меня есть tuple точки, да.
А полигон задан такой строкой:
01030000000100000011000000A29A92ACC3693E4040A0336953F54D40B8AD2D3C2F693E40DBA50D87A5F54D40FB912232AC663E40B741EDB776F64D40630CACE3F8653E40F0DC7BB8E4F64D40630CACE3F8653E40354415FE0CF74D409BC8CC052E673E40268FA7E507F84D40D55B035B25683E40D21DC4CE14FA4D408657923CD7673E407863416150FA4D40770FD07D39673E4081E9B46E83FA4D40516C054D4B683E40FCFF3861C2FA4D40FFB3E6C75F6A3E40BB61DBA2CCFA4D401B0E4B033F6A3E40774D486B0CFA4D408B34F10EF0703E4073DBBE47FDF94D40170D198F52713E402C9FE57970F74D4044DFDDCA126D3E40DF516342CCF54D4057056A31786C3E4052F355F2B1F54D40A29A92ACC3693E4040A0336953F54D40
источник

KS

Konstantin Sevastian... in ClickHouse не тормозит
Vladimir
оговорился. У меня есть tuple точки, да.
А полигон задан такой строкой:
01030000000100000011000000A29A92ACC3693E4040A0336953F54D40B8AD2D3C2F693E40DBA50D87A5F54D40FB912232AC663E40B741EDB776F64D40630CACE3F8653E40F0DC7BB8E4F64D40630CACE3F8653E40354415FE0CF74D409BC8CC052E673E40268FA7E507F84D40D55B035B25683E40D21DC4CE14FA4D408657923CD7673E407863416150FA4D40770FD07D39673E4081E9B46E83FA4D40516C054D4B683E40FCFF3861C2FA4D40FFB3E6C75F6A3E40BB61DBA2CCFA4D401B0E4B033F6A3E40774D486B0CFA4D408B34F10EF0703E4073DBBE47FDF94D40170D198F52713E402C9FE57970F74D4044DFDDCA126D3E40DF516342CCF54D4057056A31786C3E4052F355F2B1F54D40A29A92ACC3693E4040A0336953F54D40
в geohash кодируется точка же, с необходимым уровнем разрешения. Откуда там полигон?
источник

V

Vladimir in ClickHouse не тормозит
Konstantin Sevastianov
в geohash кодируется точка же, с необходимым уровнем разрешения. Откуда там полигон?
st_asgeojson(shape)
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Vladimir
оговорился. У меня есть tuple точки, да.
А полигон задан такой строкой:
01030000000100000011000000A29A92ACC3693E4040A0336953F54D40B8AD2D3C2F693E40DBA50D87A5F54D40FB912232AC663E40B741EDB776F64D40630CACE3F8653E40F0DC7BB8E4F64D40630CACE3F8653E40354415FE0CF74D409BC8CC052E673E40268FA7E507F84D40D55B035B25683E40D21DC4CE14FA4D408657923CD7673E407863416150FA4D40770FD07D39673E4081E9B46E83FA4D40516C054D4B683E40FCFF3861C2FA4D40FFB3E6C75F6A3E40BB61DBA2CCFA4D401B0E4B033F6A3E40774D486B0CFA4D408B34F10EF0703E4073DBBE47FDF94D40170D198F52713E402C9FE57970F74D4044DFDDCA126D3E40DF516342CCF54D4057056A31786C3E4052F355F2B1F54D40A29A92ACC3693E4040A0336953F54D40
ну КХ geohashDecod такого во первых не понимает, во вторых pointInPolygon жрет только константы в качестве полигона, поэтому все равно не заработает с полигонами которые хранятся в таблице
источник

KS

Konstantin Sevastian... in ClickHouse не тормозит
Vladimir
st_asgeojson(shape)
не похоже на функцию КХ) попробуйте закодировать ваш полигон через КХ и сравнить результат
источник

KS

Konstantin Sevastian... in ClickHouse не тормозит
а в описании функции  Postgis (откуда предположительна она взята) нет ни слова про geohash
источник

V

Vladimir in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну КХ geohashDecod такого во первых не понимает, во вторых pointInPolygon жрет только константы в качестве полигона, поэтому все равно не заработает с полигонами которые хранятся в таблице
спасибо за помощь!
источник

a

alexeysh RnD in ClickHouse не тормозит
Добрый вечер!
При создании таблицы неверно указал ключ партиционирования.
Сделал правильную.  Надо перенести данные.
insert from select работает очень медленно.

(1.03 million rows/s., 184.74 MB/s.)

можно это как-то ускорить?
источник

YV

Yuri Velgosha in ClickHouse не тормозит
alexeysh RnD
Добрый вечер!
При создании таблицы неверно указал ключ партиционирования.
Сделал правильную.  Надо перенести данные.
insert from select работает очень медленно.

(1.03 million rows/s., 184.74 MB/s.)

можно это как-то ускорить?
Кажись вряд ли... А долго данные переносятся? Ибо в это случае есть вариант накапливать актуальные данные в буфере, типа кафки, а уж потом их долить после переноса данных из старой структуры.
источник