Size: a a a

2021 February 16

А

Адиль in Airflow
И?)
источник

P

Pavel in Airflow
луиджи остановился примерно в 2017-2018, ровно тогда, когда мы переезжали на него с Oozie.
в то же время мы напрочь отмели Airflow, сейчас видим как последний слал всех нахуй и прочно отвоёвывает упущенное)
источник

im

igor musinov in Airflow
Адиль
поэтому я предложил Luigi :)
а второй вопрос я не понял, почему нельзя пользоваться?
Ui не умрет от такого кол-ва пайпланов когда их много накопится ?
источник

P

Pavel in Airflow
а, ну ок...
источник

А

Адиль in Airflow
Конкретно для быстрых задач без оверхеда и кучи зависимостей Luigi охеренное решение. Никто не мешает потом переехать в эйрфлоу с ростом запросов и  тд
источник

T

Tishka17 in Airflow
Но ведь в эйрфлоу вся параметризация - дата. Это ж совсем другой подход к созданию пайплайна
источник

P

Pavel in Airflow
та! для быстрых задач crontab охерительное решение
источник

im

igor musinov in Airflow
Pavel
та! для быстрых задач crontab охерительное решение
Хехе)
источник

А

Адиль in Airflow
Pavel
та! для быстрых задач crontab охерительное решение
Да, поэтому в luigi крон используется )
источник

А

Адиль in Airflow
igor musinov
Ui не умрет от такого кол-ва пайпланов когда их много накопится ?
Вот можно и проверить) но думаю будет юзабельно
источник

im

igor musinov in Airflow
Адиль
Да, поэтому в luigi крон используется )
То есть Luigi можно назвать стриминговым pipeline оркестратором ?
источник

im

igor musinov in Airflow
Адиль
Вот можно и проверить) но думаю будет юзабельно
Я думал кто нибудь скажет как создал свою систему мониторинга поверх airflow )
источник

А

Адиль in Airflow
igor musinov
То есть Luigi можно назвать стриминговым pipeline оркестратором ?
Это к чему?
источник

im

igor musinov in Airflow
Адиль
Это к чему?
Ну если оверхеда нет , и есть паплайны то вроде как можно его использовать в целях стриминга , нет ?
источник

im

igor musinov in Airflow
Не трогал Luigi *
источник

А

Адиль in Airflow
Да это обычный batch, есть там свои минусы и плюсы
источник

А

Адиль in Airflow
Airflow это корабль
А Luigi это лодка )
источник

im

igor musinov in Airflow
Адиль
Airflow это корабль
А Luigi это лодка )
*кубер флэшбеки*
источник

А

Адиль in Airflow
Притом если хочется перейти на Airflow, то из него можно запускать в том числе и Luigi таски каким-нить BashOperator
источник

А

Адиль in Airflow
(чтобы без даунтаймов и бесшовного перехода)
источник