Size: a a a

Сбор и аналитика системных сообщений

2021 February 04

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Лог левел пишетися иногда в начале иногда в конце а иногда отдельной строчкой в мультилайне
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
И все это от одного по да еще и ты напрямую хочешь лить в локи без агрегатора
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Тогда та - шаг в сторону - расстрел
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Но для тебя уже написали логстеши/вектори/флюентдитеры которые все сделают за тебя
источник

BG

Bogdan (SirEdvin) Gl... in Сбор и аналитика системных сообщений
Maksim Ivanyukhin
Кто-нибудь в векторе воевал с тайм-зонами?
Да, и я проиграл
источник

BG

Bogdan (SirEdvin) Gl... in Сбор и аналитика системных сообщений
Хотя зависит от задачи, так то функции там есть
источник
2021 February 05

НЕ

Николай Емашев... in Сбор и аналитика системных сообщений
приветствую, есть необходимость собирать nginx ingress логи с k8s с сортировкой по service_name.
Выбор пал на loki + fluent-bit.
Fluent-bit использует один парсер для docker, если из helm разворачивать.
[PARSER]
   Name        docker
   Format      json
   Time_Key    time
   Time_Format %Y-%m-%dT%H:%M:%S.%L

В ingress настроил custom fromat логов в json вариант.
Но в графану они падают без nginx Log Labels, если запрос через UI.

{namespace_name="default"}

Если указать {namespace_name="default"} | json, то Log Labels появляются, но через UI невозможно выбрать фильтр по log labels.

Может как-то руками можно  фильтры правильно составить?

фильтры через UI примерно такие получаются:
{service_name="loki",namespace_name="default"} | json
но с нулевым результатом.
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Николай Емашев
приветствую, есть необходимость собирать nginx ingress логи с k8s с сортировкой по service_name.
Выбор пал на loki + fluent-bit.
Fluent-bit использует один парсер для docker, если из helm разворачивать.
[PARSER]
   Name        docker
   Format      json
   Time_Key    time
   Time_Format %Y-%m-%dT%H:%M:%S.%L

В ingress настроил custom fromat логов в json вариант.
Но в графану они падают без nginx Log Labels, если запрос через UI.

{namespace_name="default"}

Если указать {namespace_name="default"} | json, то Log Labels появляются, но через UI невозможно выбрать фильтр по log labels.

Может как-то руками можно  фильтры правильно составить?

фильтры через UI примерно такие получаются:
{service_name="loki",namespace_name="default"} | json
но с нулевым результатом.
Почитай про лейблы в локи - это отдельная сущность, не кусок лога, нужно дополнительно передавать.
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Но в целом ты можешь дальше писать на logql что то из серии |= «servicename” и тд
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Локи плохо жрет много лейблов
источник
2021 February 06

AZ

Alexander Zaitsev in Сбор и аналитика системных сообщений
Aleksey Lazarev
Локи плохо жрет много лейблов
а много это сколько примерно? почему спрашиваю - мы тоже задумываемся об использовании локи у себя
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
А можно еще на файлопомойку посервисно в каталоги раскладывать файлики :)
источник

В

Вадим in Сбор и аналитика системных сообщений
Alexander Zaitsev
а много это сколько примерно? почему спрашиваю - мы тоже задумываемся об использовании локи у себя
практически не нужны - достаточно тех что навесят сборщики
источник
2021 February 08

НЕ

Николай Емашев... in Сбор и аналитика системных сообщений
Aleksey Lazarev
Почитай про лейблы в локи - это отдельная сущность, не кусок лога, нужно дополнительно передавать.
А можно как-то сделать, чтобы он сразу на json их разбирал, без указания | json в logql ? От чего это зависит? fluent-bit вроде и так в json шлет.
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Дык он их парсит
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Есть лейблы(метки) а есть поля
источник
2021 February 09

MM

Max Muravyev in Сбор и аналитика системных сообщений
Привет всем.
Кто-нибудь заводил Grafana/Loki с Gitlab-runner (kubernetes-executor)? Проблема в том, что с их дефолтным хелм-чартом контейнеры в подах пишут логи в локи. За исключением gitlab-runner'овских CI подов (!).
источник

MM

Max Muravyev in Сбор и аналитика системных сообщений
Т.е. для первого есть.
Для второго — нет.
Нужно ковырять scrape_config?
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Max Muravyev
Привет всем.
Кто-нибудь заводил Grafana/Loki с Gitlab-runner (kubernetes-executor)? Проблема в том, что с их дефолтным хелм-чартом контейнеры в подах пишут логи в локи. За исключением gitlab-runner'овских CI подов (!).
Гитлаб раннеровские CI поды не фигачят логи в стдаут
источник

AL

Aleksey Lazarev in Сбор и аналитика системных сообщений
Читай как их отправить в стдаут и все у тебя будет собираться
источник