Size: a a a

2020 October 26

V

Vlad in Airflow
кто-нибудь прикручивал заведение багов в джире на падение дага? это можно сделать какой-то лаконичней чем через onfailurecallback?
источник

E

Edya in Airflow
Vlad
кто-нибудь прикручивал заведение багов в джире на падение дага? это можно сделать какой-то лаконичней чем через onfailurecallback?
это хороший способ.

Можно еще переопредить SendEmail, чтобы там создавать тикеты
источник

ME

Max Efremov in Airflow
Vlad
кто-нибудь прикручивал заведение багов в джире на падение дага? это можно сделать какой-то лаконичней чем через onfailurecallback?
Куда уж лаконичнее, 1 функция)
источник

E

Edya in Airflow
Edya
это хороший способ.

Можно еще переопредить SendEmail, чтобы там создавать тикеты
с переопределением лучше только в плане, что не надо будет определять в каждом даге
источник

V

Vlad in Airflow
Edya
это хороший способ.

Можно еще переопредить SendEmail, чтобы там создавать тикеты
просто мне кажется это топорным, тк если ещё какие-то действия нужно выполнять при падании то придётся оборачивать в отдельную функцию
источник

E

Edya in Airflow
Vlad
просто мне кажется это топорным, тк если ещё какие-то действия нужно выполнять при падании то придётся оборачивать в отдельную функцию
можно это вынести в отдельный файл и только импотрировать эту функцию оттуда
источник

V

Vlad in Airflow
Edya
можно это вынести в отдельный файл и только импотрировать эту функцию оттуда
это да, просто если мне понадобится вызывать помимо создания бага в джире ещё какую-то функцию, то это приведёт к написанию функции обертки над ними...
источник

V

Vlad in Airflow
Edya
это хороший способ.

Можно еще переопредить SendEmail, чтобы там создавать тикеты
хорошая идея, я подумаю над этим, спасибо
источник

VS

Vladislav 👻 Shishkov... in Airflow
Vlad
кто-нибудь прикручивал заведение багов в джире на падение дага? это можно сделать какой-то лаконичней чем через onfailurecallback?
Sentry
источник

VS

Vladislav 👻 Shishkov... in Airflow
Выше обсуждали его, говорят, он уже нормально работает
источник
2020 October 27

SU

Sergey Ufimtsev in Airflow
Ребят привет, подскажите плиз, у меня dag почему-то игнорирует расписание, и просто нонстоп выполняется
default_args = {
   'owner': 'me',
   'depends_on_past': False,
   'start_date': datetime(2020, 1, 27),
   'email': ['me@me.me'],
   'email_on_failure': False,
   'email_on_retry': False,
   'retries': 1,
   'retry_delay': timedelta(minutes=5)
}
dag = DAG('send_time_to_tg_user', max_active_runs=1, default_args=default_args, schedule_interval=timedelta(minutes=5))
источник

T

Tishka17 in Airflow
Привет. Подскажите, я хочу взять airflow для обработки документов. Будет несколько шагов с ветвлением.

Но! Мне надо, чтобы юзер мог зайти в результаты работы любого шага, что-то поправить руками и перезапустить следующие шаги соответственно.

Подойдёт ли для этого AirFlow?
источник

z

zxyzxy in Airflow
Sergey Ufimtsev
Ребят привет, подскажите плиз, у меня dag почему-то игнорирует расписание, и просто нонстоп выполняется
default_args = {
   'owner': 'me',
   'depends_on_past': False,
   'start_date': datetime(2020, 1, 27),
   'email': ['me@me.me'],
   'email_on_failure': False,
   'email_on_retry': False,
   'retries': 1,
   'retry_delay': timedelta(minutes=5)
}
dag = DAG('send_time_to_tg_user', max_active_runs=1, default_args=default_args, schedule_interval=timedelta(minutes=5))
catchup=False добавьте
источник

SU

Sergey Ufimtsev in Airflow
Окей, а что кетчуп делает? а то так не понятно из названия))
источник

FS

Fedor Sumkin in Airflow
Даг пытается догнать все даты начиная с 2020, 1, 27
источник

SU

Sergey Ufimtsev in Airflow
А, понял спасибо
источник

ДС

Дина Сафина... in Airflow
Привет!

Ищем себе команду ETL-разработчика (DWH Mail.ru Games): https://hh.ru/vacancy/40055978
Пишите мне или отзывайтесь 🙂
источник

GB

Georgy Borodin in Airflow
Tishka17
Привет. Подскажите, я хочу взять airflow для обработки документов. Будет несколько шагов с ветвлением.

Но! Мне надо, чтобы юзер мог зайти в результаты работы любого шага, что-то поправить руками и перезапустить следующие шаги соответственно.

Подойдёт ли для этого AirFlow?
Всё зависит от логики ветвления и того, насколько этот даг идемпотентен
источник

T

Tishka17 in Airflow
Georgy Borodin
Всё зависит от логики ветвления и того, насколько этот даг идемпотентен
Планируется, что все идемпотентно. Скорее всего будет глубина 2-3 обработчика и на каждом шаге все будет просто ветвиться
источник

GB

Georgy Borodin in Airflow
Tishka17
Планируется, что все идемпотентно. Скорее всего будет глубина 2-3 обработчика и на каждом шаге все будет просто ветвиться
Даг раны по расписанию, тасков много?
источник