Size: a a a

2021 March 17

ME

Max Efremov in Airflow
и дальше только по одному дню всё сбрасывать руками так)
источник

Н

Никита in Airflow
Всем привет, кто-нибудь знает как достать schedule_interval определенного дага в скрипте, описывающем другой даг?
Вот так получается достать в PythonOperator:
from airflow.models import DagBag
target_si = DagBag().get_dag(target_dag_id).schedule_interval
Но это не работает в скрипте, который формирует даги, т.к. видимо это зацикливает процедуру.
источник

N

Nikita Blagodarnyy in Airflow
Max Efremov
А можно сделать, что если прошлый зафейлился, новый бы не стартовал штатно? А то я туда добавил проверку флага окончания прошлого первой таской, но это костыль, конечно
Depends_on_past
источник

ME

Max Efremov in Airflow
Nikita Blagodarnyy
Depends_on_past
Уже есть, но оно доходит до прошлой зафейленной таски
источник

ME

Max Efremov in Airflow
А не весь даг ждёт
источник

N

Nikita Blagodarnyy in Airflow
Тогда max_active_runs
источник

ME

Max Efremov in Airflow
Nikita Blagodarnyy
Тогда max_active_runs
Ну, там 1 тоже, он ждёт, когда зафейлится прошлый, да)
источник

N

Nikita Blagodarnyy in Airflow
В чем тогда проблема? Не понимаю.
источник

ME

Max Efremov in Airflow
Nikita Blagodarnyy
В чем тогда проблема? Не понимаю.
Т.е. я хочу, чтобы следующий ран начинался, если прошлый прошёл до конца. Сейчас у меня он в 7 таске падает и если бы не мой костыль, он бы дошёл до 6 таски следующего рана, выполнил бы её и встал бы там, ожидая прошлого
источник

ME

Max Efremov in Airflow
А я хочу, чтобы он дагран новый вообще не начинал, если прошлый не выполнен весь с успехом
источник

N

Nikita Blagodarnyy in Airflow
Max Efremov
А я хочу, чтобы он дагран новый вообще не начинал, если прошлый не выполнен весь с успехом
Для этого и есть max_active_runs=1
источник

N

Nikita Blagodarnyy in Airflow
Новый даг не стартует, пока старый не прокопытил до конца
источник

ME

Max Efremov in Airflow
Nikita Blagodarnyy
Для этого и есть max_active_runs=1
Так прошлый же закончился, с фейлом, но закончился.
источник

ME

Max Efremov in Airflow
Он уже не активный будет после фейла
источник

N

Nikita Blagodarnyy in Airflow
Судя по картинке нет.
источник

N

Nikita Blagodarnyy in Airflow
Max Efremov
Так прошлый же закончился, с фейлом, но закончился.
А в чём тогда проблема? В том, что он закончился фейлом, а новый всё равно начался?
источник

ME

Max Efremov in Airflow
Nikita Blagodarnyy
А в чём тогда проблема? В том, что он закончился фейлом, а новый всё равно начался?
Ага
источник

ME

Max Efremov in Airflow
Там сильная связь дней и надо чтобы предыдущий точно завершился успехом или всё встало
источник

N

Nikita Blagodarnyy in Airflow
Ну мы кругами ходим. Тогда depends on past
источник

ME

Max Efremov in Airflow
😔
источник