Size: a a a

2021 March 29

ee

elessar elfstone in Airflow
подскажите кто как  отображает прогресс работы
к примеру в luigi такая возможность есть
источник

ee

elessar elfstone in Airflow
источник

GB

Georgy Borodin in Airflow
elessar elfstone
подскажите кто как  отображает прогресс работы
к примеру в luigi такая возможность есть
Ну прямо в веб-морде он и отображается на graph view)

Прогресс внутри таска нужно делать логированием, прогрессбаров нет
источник

ee

elessar elfstone in Airflow
прогресс бар штука полезная) в issue ах никто не предлагал случаем)
источник

ФЧ

Филипп Чистяков... in Airflow
Ребят, всем привет!

Подскажите пожалуйста, есть ли у кого-то пример, как вызывать какую либо функцию при условии что таска зафейлилась - хочу присылать пуш в слак себе
источник

S

Staseello in Airflow
примерно так, через даг можно
источник

S

Staseello in Airflow
и примерно так выглядит функция, ну с тем как отправить сам месседж думаю можно и нагуглить )
источник

ME

Max Efremov in Airflow
Staseello
и примерно так выглядит функция, ну с тем как отправить сам месседж думаю можно и нагуглить )
у меня там просто requests.post :)
источник

ФЧ

Филипп Чистяков... in Airflow
Staseello
примерно так, через даг можно
Спасибо
источник

FS

Fedor Sumkin in Airflow
Подскажите пример разветвленя тасок после на основании результата первой таски.
источник

FS

Fedor Sumkin in Airflow
PythonOperator -> [SSHOperators]
источник

GB

Georgy Borodin in Airflow
Fedor Sumkin
Подскажите пример разветвленя тасок после на основании результата первой таски.
источник

GB

Georgy Borodin in Airflow
В двух словах: работает, как обычный PythonOperator, но возвращать нужно строку – айди следующей таски (либо массив строк)
источник

FS

Fedor Sumkin in Airflow
Спасибо
источник

ФЧ

Филипп Чистяков... in Airflow
Staseello
и примерно так выглядит функция, ну с тем как отправить сам месседж думаю можно и нагуглить )
Да я разобрался, теперь пытаюсь понять как проверить могу. Я немного не понимаю, могу ли я запустить сам dag локально как-то, чтобы проверить тригер on_failure_callback
источник

S

Staseello in Airflow
Филипп Чистяков
Да я разобрался, теперь пытаюсь понять как проверить могу. Я немного не понимаю, могу ли я запустить сам dag локально как-то, чтобы проверить тригер on_failure_callback
Ну можно банально сделать функцию, внутри неё зарейзить exception,тригернуть даг через ui и посмотреть прилетит ли что-то в слак
Пара моментов:
1. Функции обязательно надо передавать контекст через provide_context=True
2. Контекст в функции отправки не должен распаковываться т.е. failure_func(context) но не failure_func(**context)
источник

ФЧ

Филипп Чистяков... in Airflow
Staseello
Ну можно банально сделать функцию, внутри неё зарейзить exception,тригернуть даг через ui и посмотреть прилетит ли что-то в слак
Пара моментов:
1. Функции обязательно надо передавать контекст через provide_context=True
2. Контекст в функции отправки не должен распаковываться т.е. failure_func(context) но не failure_func(**context)
Функция или PythonOperator ?
источник

S

Staseello in Airflow
А, ну и ещё там самое важное что я делаю все отправки через веб-хуки, т.е в самом слаке должно быть приложение которое может это сделать (запостить в определённый канал)
источник

S

Staseello in Airflow
Ну обернуть функцию в оператор)
источник

ФЧ

Филипп Чистяков... in Airflow
Не не догоняю, вот мой оператор
источник