Size: a a a

2021 February 05

OI

Oleg Ilinsky in Airflow
Понял, спасибо большое)
источник

А

Андрей in Airflow
Коллеги добрый день. А как получить доступ к execution_date в самом начале файла дага? через что? мне надо проанализировать час запуска и уже исходя из этого передавать в таски шаблоны для date_from, date_to
источник

А

Андрей in Airflow
типа каждый час я гружу данные за час назад. а в 0 часов хочу за минус две недели
источник

OI

Oleg Ilinsky in Airflow
Андрей
Коллеги добрый день. А как получить доступ к execution_date в самом начале файла дага? через что? мне надо проанализировать час запуска и уже исходя из этого передавать в таски шаблоны для date_from, date_to
ну это нельзя в коде дага получить
это надо в параметрах или коде самого таска
источник

ФЧ

Филипп Чистяков... in Airflow
Ребят не напомните какая настройка отвечает за одновременное кол-во запущенных тасков в даге?
источник

マサ

マキシム サモイロフ... in Airflow
concurrency вроде?
источник

А

Андрей in Airflow
Oleg Ilinsky
ну это нельзя в коде дага получить
это надо в параметрах или коде самого таска
тогда не очень красиво получиться. в таск попадут одни даты, и будут в свойствах таска показываться в rendered. а селекты по факту будут с другими параметрами.
источник

OI

Oleg Ilinsky in Airflow
Андрей
тогда не очень красиво получиться. в таск попадут одни даты, и будут в свойствах таска показываться в rendered. а селекты по факту будут с другими параметрами.
можно параметризовать даты (шаблоны jinja)и как раз передавать нужные даты через параметры
будет и в rendered нормально
источник

ФЧ

Филипп Чистяков... in Airflow
マキシム サモイロフ
concurrency вроде?
верно
источник

А

Андрей in Airflow
Oleg Ilinsky
можно параметризовать даты (шаблоны jinja)и как раз передавать нужные даты через параметры
будет и в rendered нормально
так мне и надо их до передачи в таск определить в зависимости от часа запуска
источник

А

Андрей in Airflow
должен же быть какой то глобальный контекст
источник

А

Андрей in Airflow
хотя в шаблон же можно условие зашить
источник

OI

Oleg Ilinsky in Airflow
Андрей
так мне и надо их до передачи в таск определить в зависимости от часа запуска
это можно делать в самом шаблоне
источник

OI

Oleg Ilinsky in Airflow
в даге это сделать не получится
источник

AS

Airat Sagitov in Airflow
Андрей
Коллеги добрый день. А как получить доступ к execution_date в самом начале файла дага? через что? мне надо проанализировать час запуска и уже исходя из этого передавать в таски шаблоны для date_from, date_to
Можно посмотреть в сторону branching через переменные xcom
источник

А

Андрей in Airflow
Airat Sagitov
Можно посмотреть в сторону branching через переменные xcom
Это как? Можно подробнее? Я уже сделал через if else jinja. Но другие способы тоже полезно будет знать
источник

OI

Oleg Ilinsky in Airflow
Андрей
Это как? Можно подробнее? Я уже сделал через if else jinja. Но другие способы тоже полезно будет знать
PythonBranchOperator
источник

А

Андрей in Airflow
Oleg Ilinsky
PythonBranchOperator
ааа. все, понял, спасибо.
источник

AS

Airat Sagitov in Airflow
Андрей
Это как? Можно подробнее? Я уже сделал через if else jinja. Но другие способы тоже полезно будет знать
Статья про дни недели, но я переделывал под часы запуска: https://medium.com/@guillaume_payen/use-conditional-tasks-with-apache-airflow-98bab35f1846
источник

C

Combot in Airflow
Добро пожаловать в самое дружелюбное комьюнити.
источник