Size: a a a

2020 October 11

GB

Georgy Borodin in Airflow
Anvar Khamidov
Коллеги, доброе утро.
Дописал полный даг, полную цепочку алгоритма.
НА данный момент нужно сделать периодичесикй запуск на проверку файлов на бакете, если все ок то запускается даг, если нет, то будет отдыхать.

Подскажите куда копать насчет периодечкого запуска

А по реализации на данный момент, функционал по проверке файлов на бакете есть в самом даге, то есть если файл нашелся то записываем его в таблицу соответсвующую и идет далее выполнять все блоки функционала независимо будут новые файлы или нет. Есть люди, кто такую штуку реализовывал?
Если тебе нужно реагировать на появление файлов в бакете, то есть всевозможные триггеры AWS-а, можно связать как-нибудь с Airflow.

Если нужно проверить, есть ли файл в бакете, прежде чем его делать, то я такую штуку сделал через ShortCircuitOperator (дернул load по ключу, если есть – скипаю операции для его появления там)
источник

I

Igor in Airflow
Виталий Бикташев
ShortCircuitOperator лучше подходит, не?
Лично мне удобнее с бранчем, потому что часто хочется просто найти историю пустых запусков
источник

I

Igor in Airflow
ShortCircuit внутри пайплайна обычно уместнее мне кажется
источник

AK

Anvar Khamidov in Airflow
Igor
Лично мне удобнее с бранчем, потому что часто хочется просто найти историю пустых запусков
есть пример с бранчем?
источник

AK

Anvar Khamidov in Airflow
Я пока просто немного не догоняю, решил сделать ветвление.

Понимаю что нужно в бранче вернуть таск или список тасков, но как они будут зависимы друг от друга?
То есть мне нужна та последовательность, которую я посторил в даге.

Или же построить какой-нибудь if блок, который будет возвращать таск - заглушку?
источник

I

Igor in Airflow
Anvar Khamidov
Я пока просто немного не догоняю, решил сделать ветвление.

Понимаю что нужно в бранче вернуть таск или список тасков, но как они будут зависимы друг от друга?
То есть мне нужна та последовательность, которую я посторил в даге.

Или же построить какой-нибудь if блок, который будет возвращать таск - заглушку?
В бранче возвращается название downstream таски к которой надо перейти
источник

I

Igor in Airflow
Anvar Khamidov
есть пример с бранчем?
источник

AK

Anvar Khamidov in Airflow
Igor
В бранче возвращается название downstream таски к которой надо перейти
А, то есть если у меня есть список тасков, то он по идее должен так же запускать их асинхронно?
источник

AK

Anvar Khamidov in Airflow
Спасибо, сейчас посмотрю
источник

I

Igor in Airflow
Anvar Khamidov
А, то есть если у меня есть список тасков, то он по идее должен так же запускать их асинхронно?
Как оно будет выполняться — зависит от настроек
источник

DS

Dmitry Samoylov in Airflow
kuzya shishkin
раз тут зашёл разговор про логи
нужно подружить airflow и graylog, кто-то сталкивался с таким? думаю, что раз у меня воркеры и план плащик крутятся в докер контейнерах, может писать из лол не в файл, а в stdin и забирать из как-то
да, так и делаем. Опеределилии свой конфиг и подключили его через AIRFLOW__CORE__LOGGING_CONFIG_CLASS
источник

ks

kuzya shishkin in Airflow
попробую, спасибо!
источник

AK

Anvar Khamidov in Airflow
@shrimpsizemoose @georborodin @andy_ap @SCMLT
Спасибо, вроде всех отметил.

Весь день разбирался с ответвлением, пока протестил на заглушку, работает и скипает все что нужно.
источник
2020 October 12

NV

Nikita Vladivostok in Airflow
Привет, настроил airflow под proxy сервером nginx, сделал path /airflow/ , но во время перехода airflow редиректит меня в /home это адрес уже другого приложения, как сделать чтобы редирект происходил в /airflow/home?
источник

СХ

Старый Хрыч... in Airflow
Nikita Vladivostok
Привет, настроил airflow под proxy сервером nginx, сделал path /airflow/ , но во время перехода airflow редиректит меня в /home это адрес уже другого приложения, как сделать чтобы редирект происходил в /airflow/home?
так виртуалхост настрой
источник

СХ

Старый Хрыч... in Airflow
это настройка nginx а не airflow
источник

NV

Nikita Vladivostok in Airflow
В аирфлоу я настроил точку входа через локалхост
источник

NV

Nikita Vladivostok in Airflow
Захожу туда ошибки нет, вижу редирект в home, вместо /airflow/home
источник

СХ

Старый Хрыч... in Airflow
ну так и делай на локалхост порт nginx
источник

СХ

Старый Хрыч... in Airflow
тьфу, доку nginx глянь
источник