Size: a a a

Церковь метрик

2019 December 10

SS

Stanislav Shcherbakov in Церковь метрик
Aliaksandr Valialkin
Вы случайно не путаете доступность данных с их консистентностью и сохранностью? Если часть данных теряется или портится, но при этом оставшиеся данные остаются доступны для чтения, то система считается highly available. Если же при потере или порче части данных система перестает работать, то она не highly available.
Репликация снижает риск утери части данных, но она не всегда может обеспечить консистентность и сохранность данных. Например, если данные повредились сразу на всех репликах или не смогли вовремя восстановиться из живых реплик. Или если данные повредились при неудачном обновлении кластера.
Для сохранности данных нужно делать бэкапы, а не репликацию.
консистетность в моем случае не очень-то и важна, а вот доступность нужна
источник

GG

George Gaál in Церковь метрик
а зачем нужны доступные, но неконсистентные данные?
источник

RK

Roman Khavronenko in Церковь метрик
George Gaál
а зачем нужны доступные, но неконсистентные данные?
а зачем нужна включенная галочка [*]partial response по дефолту?) риторический вопрос)
источник

AS

Aleksey Shirokikh in Церковь метрик
George Gaál
а зачем нужны доступные, но неконсистентные данные?
мартин клепман. designing data intensive applications
источник

GG

George Gaál in Церковь метрик
если ты пишешь соц сеть - ты прав
источник

GG

George Gaál in Церковь метрик
но когда ты делаешь мониторинг.. хрен его знает лучше ли иметь частичные данные или поврежденные данные, чем вообще не иметь данных
источник

BG

Bogdan (SirEdvin) Gladyshev in Церковь метрик
Если у вас мониторинг на временных рядах, то частичные данные тоже ок
источник

GG

George Gaál in Церковь метрик
частичные, но не поврежденные
источник

GG

George Gaál in Церковь метрик
и тут внезапно выясняется, что всякая модификация данных - это зло. Только append olny
источник

AV

Aliaksandr Valialkin in Церковь метрик
Артём
Главная фича таноса это распределенное хранилище ( то есть мы не гоняем данные через пол мира без надобности) и глобал вью, какие альтернативы по этим пунктам от ВМ ?
Записывать все данные со всех прометеусов в один кластер вм. Если хотите защититься от возможной временной недоступности кластера, то создаете несколько кластеров в географически распределенных датацентрах.
Чтобы легче понять архитектуру, замените слово "вм" на s3 в предложениях сверху.
источник

AV

Aliaksandr Valialkin in Церковь метрик
Артём
Да, тут ВМ явно выигрывает в простоте расчета бюджета
И еще этот пример показывает истинную картину с "то есть мы не гоняем данные через пол мира без надобности" :)
источник

AV

Aliaksandr Valialkin in Церковь метрик
Артём
у меня в каждом регионе работает только пром с сайдкаром, не более. Все остальное сосредоточено в одном месте
Прямо описание конфигурации вм. Только там немного проще - сайдкары не нужны :)
источник

AV

Aliaksandr Valialkin in Церковь метрик
Артём
+ ко всему, что бы получить глобал вью тебе надо прикрутить что-то поверх ВМ и спаппортить еще и это
Что??? Вм предоставляет глобал вью искаропки. В отличие от таноса, он нормально работает на данных за последние два часа при любом количестве прометеусов, которые пищут данные в вм.
источник

AV

Aliaksandr Valialkin in Церковь метрик
Артём
у нас примерно 10к метрик-сек , танос не считая компактора потребляет мизер
Для таких объемов вм требуется 10% одного ядра процессора. А у вас сколько танос потребляет?
источник

AM

Andrey Miroshnikov in Церковь метрик
Слушайте, такой вопрос. Стали упираться в память на сервере с прометеусом. Хочу пошардировать его, а сверху поставить promxy.
Мы используем recording rules, которые, очевидно, нужно теперь перенести на promxy.
promxy умеет писать результат выполнения recording rules в remote write. То есть, например, в Викторию. Но мы пока не планируем использовать какой-либо remote storage. Можно ли как-то recording rules из promxy писать обратно в прометеус? (в любой из шардов)
источник

AM

Andrey Miroshnikov in Церковь метрик
прометеус умеет в remote read, но я чёт не понял как приладить его к promxy
источник

N

Nklya in Церковь метрик
promxy просто умеет ходить в разные промы при запросе метрик через него
источник

AM

Andrey Miroshnikov in Церковь метрик
promxy умеет выполнять recording rules, и я именно этого от него и хочу
источник

AM

Andrey Miroshnikov in Церковь метрик
Разобрался. В поставке promxy на гитхабе есть утилита remote_write_exporter, которая решает эту задачу: она принимает данные по протоколу remote_write из promxy, и экспортит их в виде обычных метрик по ручке /metrics, которые можно обратно скормить прометеусу.
источник

А

Артём in Церковь метрик
Aliaksandr Valialkin
Для таких объемов вм требуется 10% одного ядра процессора. А у вас сколько танос потребляет?
Явно больше, если агрегировать все компоненты
источник