Size: a a a

ClickHouse не тормозит

2020 June 25

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dorian Peregrim
Ну я думал в эту сторону, но почему то у меня сначала зародилось сомнение, можно ли на репликах читать с одного топика. Попробую добавить текущий timestamp (его нет, да), спасибо
можно и нужно.
источник

DP

Dorian Peregrim in ClickHouse не тормозит
А именно на чтение с кафик дедупликацию отключить нельзя?
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Dorian Peregrim
А именно на чтение с кафик дедупликацию отключить нельзя?
не знаю, зачем вам одинаковые сообщения-то? добавьте в свою таблицу _partition _offset и все, даже полезно, дубликаты разбирать
источник

DP

Dorian Peregrim in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
не знаю, зачем вам одинаковые сообщения-то? добавьте в свою таблицу _partition _offset и все, даже полезно, дубликаты разбирать
Справедливо
источник

Y

Yan in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
70мс, это медленно? вы там на спидах что-ли все? у меня запросы по 40 мин. работают, вот это медленно.
нет, вопросы уже к DataGrip. Но он больше для удобства, не для скорости
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Yan
нет, вопросы уже к DataGrip. Но он больше для удобства, не для скорости
150мс, джава приложение с UI, непонятно чего вы ожидаете

select 1 из DG сколько выполняется?
источник

Y

Yan in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
150мс, джава приложение с UI, непонятно чего вы ожидаете

select 1 из DG сколько выполняется?
73ms
источник

DT

Dmitry Titov in ClickHouse не тормозит
так то надо еще пинг учитывать, который явно в клиенте на локалхосте не учитывается
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Yan
73ms
я уже говорил что летенси, у меня например до половины КХ пинг 150мс
источник

Y

Yan in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
я уже говорил что летенси, у меня например до половины КХ пинг 150мс
напр. SELECT WatchID FROM tutorial.hits_v1;
CH: 8873898 rows in set. Elapsed: 0.137 sec. Processed 8.87 million rows, 70.99 MB (64.87 million rows/s., 518.96 MB/s.)
DG: execution: 1 s 456 ms, fetching: 41 ms
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Yan
напр. SELECT WatchID FROM tutorial.hits_v1;
CH: 8873898 rows in set. Elapsed: 0.137 sec. Processed 8.87 million rows, 70.99 MB (64.87 million rows/s., 518.96 MB/s.)
DG: execution: 1 s 456 ms, fetching: 41 ms
ну  8873898 строк, это джава jdbc рендерит медленно строки в числа и снова в строки
источник

Y

Yan in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну  8873898 строк, это джава jdbc рендерит медленно строки в числа и снова в строки
через HTTP SELECT WatchID FROM tutorial.hits_v1 питоновским скриптом за 1.71 сек
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Yan
через HTTP SELECT WatchID FROM tutorial.hits_v1 питоновским скриптом за 1.71 сек
ну а курл сколько показыват? curl '....:8123:/?query=SELECT%20WatchID%20FROM%20tutorial.hits_v1'
источник

Y

Yan in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
ну а курл сколько показыват? curl '....:8123:/?query=SELECT%20WatchID%20FROM%20tutorial.hits_v1'
сложно сказать он принтит каждый id
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
-o /dev/null
источник

Y

Yan in ClickHouse не тормозит
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                Dload  Upload   Total   Spent    Left  Speed
100  169M    0  169M    0     0  98.4M      0 --:--:--  0:00:01 --:--:-- 98.5M
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Yan
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                Dload  Upload   Total   Spent    Left  Speed
100  169M    0  169M    0     0  98.4M      0 --:--:--  0:00:01 --:--:-- 98.5M
и тот же курл прямо на сервере КХ ?
источник

Y

Yan in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
и тот же курл прямо на сервере КХ ?
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                Dload  Upload   Total   Spent    Left  Speed
100  169M    0  169M    0     0   511M      0 --:--:-- --:--:-- --:--:--  511M
источник

DC

Denny Crane (I don't... in ClickHouse не тормозит
Yan
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                Dload  Upload   Total   Spent    Left  Speed
100  169M    0  169M    0     0   511M      0 --:--:-- --:--:-- --:--:--  511M
т.е. в сеть упирается
а если enable_http_compression

curl '....:8123:/?enable_http_compression=1&query=SELECT%20WatchID%20FROM%20tutorial.hits_v1'
источник

Y

Yan in ClickHouse не тормозит
Denny Crane (I don't work at Yandex (never did))
т.е. в сеть упирается
а если enable_http_compression

curl '....:8123:/?enable_http_compression=1&query=SELECT%20WatchID%20FROM%20tutorial.hits_v1'

 % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                Dload  Upload   Total   Spent    Left  Speed
100  169M    0  169M    0     0   107M      0 --:--:--  0:00:01 --:--:--  106M
источник