Size: a a a

Сбор и аналитика системных сообщений

2020 October 18

A

Alexander in Сбор и аналитика системных сообщений
George Gaál
12 факторов говно, да
Про докер, если что, у меня отдельный пункт. Ну как можно делать у логов в современном мире всего лишь секундную точность?
источник

A

Alexander in Сбор и аналитика системных сообщений
George Gaál
Твои предложения - как из стдаут хватать или отказаться от него ?
Отказаться, если нужен мультилайн.
источник

AG

Alexander Gavrushenk... in Сбор и аналитика системных сообщений
Кстати, у меня для мультилайна (некоторые сервисы не умеют в json) используется своя утилитка которая флюентом через exec_filter обрабатывает стрим, в graylog такое можно провернуть?
источник

SP

Sergey Pechenkó in Сбор и аналитика системных сообщений
Alexander Gavrushenko (glenngrin)
Кстати, у меня для мультилайна (некоторые сервисы не умеют в json) используется своя утилитка которая флюентом через exec_filter обрабатывает стрим, в graylog такое можно провернуть?
А тут вроде не про грейлог разговор, конечно, но ты всегда можешь написать для него плагин.
источник

SP

Sergey Pechenkó in Сбор и аналитика системных сообщений
источник

AG

Alexander Gavrushenk... in Сбор и аналитика системных сообщений
Sergey Pechenkó
А тут вроде не про грейлог разговор, конечно, но ты всегда можешь написать для него плагин.
я на мультилайн стриггерился, я к тому есть ли готовый плагин который может через что-то внешнее пускать стрим, через stdin/out или tcp/udp
источник

BG

Bogdan (SirEdvin) Gl... in Сбор и аналитика системных сообщений
Alexander
Не используй логирование через докер. Во-первых мультилайн у тебя ломается именно там (а, точнее, при передаче через stdio, т.к иной информации о границе лога при передаче через пайп, кроме переноса строки, нет, а это с мультилайном несовместимо), а, во-вторых, оно говно: обрезает длинные строки (что не очень критично, если ты такими вещами не увлекаешься), и, что хуже, выставляет таймстемпы с точностью до секунды (что уже пиздец, т.к. превращает логи в кашу, если они пишутся в хранилище с упорядочеванием по таймстемпу при выводе, типа эластика).

Настрой логирование силами самого приложения (в идеале) или, на худой конец, пусть приложение пишет логи в виде файлов в вольюм, из которого их вычитывает другой контейнер с рсислогом/файлбитом/вектором/etc.
Кто-то берет таймстампы из докер логов? Разве при syslog логгировании оно тоже кривые стампы ставит?
источник

BG

Bogdan (SirEdvin) Gl... in Сбор и аналитика системных сообщений
И при journald не замечал такого, честно говоря)
источник

BG

Bogdan (SirEdvin) Gl... in Сбор и аналитика системных сообщений
Звучит как локальные беды одного драйвера для логов
источник

BG

Bogdan (SirEdvin) Gl... in Сбор и аналитика системных сообщений
George Gaál
12 факторов говно, да
Ну да) Всегда лучше выучить 100500 языков, что бы на них конфигурировать логгирование или писать инструменты)
источник

SP

Sergey Pechenkó in Сбор и аналитика системных сообщений
Bogdan (SirEdvin) Gladyshev
Ну да) Всегда лучше выучить 100500 языков, что бы на них конфигурировать логгирование или писать инструменты)
Нельзя хотеть мультилайн и стдаут вместе :-)
Ну в смысле- хотеть-то можно, только не работает :-D
источник

BG

Bogdan (SirEdvin) Gl... in Сбор и аналитика системных сообщений
Если есть возможность влазить в код, лучше от мультилайна избавится, имхо)
источник

SP

Sergey Pechenkó in Сбор и аналитика системных сообщений
Bogdan (SirEdvin) Gladyshev
Если есть возможность влазить в код, лучше от мультилайна избавится, имхо)
Поддерживаю предыдущего оратора ^^^ +++
источник

A

Alexander in Сбор и аналитика системных сообщений
Bogdan (SirEdvin) Gladyshev
Кто-то берет таймстампы из докер логов? Разве при syslog логгировании оно тоже кривые стампы ставит?
Да, при сборе через сислог тоже.
источник

A

Alexander in Сбор и аналитика системных сообщений
Bogdan (SirEdvin) Gladyshev
Звучит как локальные беды одного драйвера для логов
Нет, это проблема в самой подсистеме логирования. Я как-то разбирался, какого хера у меня в логах из контейнеров разные спецэффекты, и нашёл их источники в коде докера.
источник

A

Alexander in Сбор и аналитика системных сообщений
Долго матерился и про секундные таймстемпы, и про обрезание логов (что особенно больно, если сервис сериализует лог-запись в относительно жирный json). Тогда получить обрезание по длине буфера проще простого, и это ещё и json ломает, т.к. закрывающие скобки обрезаются тоже.
источник

GG

George Gaál in Сбор и аналитика системных сообщений
предложения - кроме как реализовать отдельный пайплайн сборки логов в самом приложении ?
источник

SP

Sergey Pechenkó in Сбор и аналитика системных сообщений
George Gaál
предложения - кроме как реализовать отдельный пайплайн сборки логов в самом приложении ?
Использовать в приложении стандартные библиотеки логирования, которые умеют норм.
источник

GG

George Gaál in Сбор и аналитика системных сообщений
умеют норм что? писать json в stdout?
источник

GG

George Gaál in Сбор и аналитика системных сообщений
Alexander
Долго матерился и про секундные таймстемпы, и про обрезание логов (что особенно больно, если сервис сериализует лог-запись в относительно жирный json). Тогда получить обрезание по длине буфера проще простого, и это ещё и json ломает, т.к. закрывающие скобки обрезаются тоже.
но это не решает проблемы, озвученные Alexander
источник