Size: a a a

2020 November 20

VN

Viacheslav Nefedov in Airflow
а то мы тут думали его вместо спарка использовать и я не могу понять как его удобнее запустить
источник

ME

Max Efremov in Airflow
Anton
Например имеется таска с расписанием на выполнение каждый час.

schedule_interval='@hourly'

После замены скрипта на обновленную версию таска перестала отрабатывать каждый час.
Должно, может бага?
источник

VS

Vladislav 👻 Shishkov... in Airflow
Anton
Например имеется таска с расписанием на выполнение каждый час.

schedule_interval='@hourly'

После замены скрипта на обновленную версию таска перестала отрабатывать каждый час.
замена значит другая
источник

ME

Max Efremov in Airflow
Постоянно обновляю код дагов
источник

VS

Vladislav 👻 Shishkov... in Airflow
если меняете шедулинг, то надо менять название дага, в противном случае начинается геморой в базе бека
источник

VS

Vladislav 👻 Shishkov... in Airflow
на эту тему Никита писал на хабре статью: https://habr.com/ru/company/lamoda/blog/518620/
источник

A

Anton in Airflow
Если по всем дагам изменить названия, это поможет решить проблему?

Имеет ли смысл добавлять версию в названиях дагов для корректной работы шедулера?
источник

A

Anton in Airflow
Спасибо за статью!
источник

KZ

Kirill Zhuravlev in Airflow
Anton
Например имеется таска с расписанием на выполнение каждый час.

schedule_interval='@hourly'

После замены скрипта на обновленную версию таска перестала отрабатывать каждый час.
если scheduler работает (другие таски запускаются), и все обычные условия соблюдены (даты, лимиты, пулы) - то может быть:  DAG невидим в коде или имеется конфликт (с именем, например), у нас чего только товарищи не делали :)
источник

VS

Vladislav 👻 Shishkov... in Airflow
Anton
Если по всем дагам изменить названия, это поможет решить проблему?

Имеет ли смысл добавлять версию в названиях дагов для корректной работы шедулера?
В статье про это написано, почитайте
источник

AB

Anton Bukreev in Airflow
Всем привет. А кто знает, как при деплое в Airflow развернуть Connections?
источник

VS

Vladislav 👻 Shishkov... in Airflow
Через базу вроде, у нас это отдельный пайплайн на ansible
источник

AA

Anton Afonin in Airflow
Anton Bukreev
Всем привет. А кто знает, как при деплое в Airflow развернуть Connections?
источник

AB

Anton Bukreev in Airflow
О, спасибо
источник

AA

Anton Afonin in Airflow
*шутка*
астрологи объявили неделю Антонов - количество Антонов увеличилось вдвое
источник

KZ

Kirill Zhuravlev in Airflow
хаха +1
источник

AB

Anton Bukreev in Airflow
источник

ИХ

Ильяс Хакиев... in Airflow
Anton Afonin
*шутка*
астрологи объявили неделю Антонов - количество Антонов увеличилось вдвое
в чем прикол?
источник

AA

Anton Afonin in Airflow
Просто Антоны сегодня часто пишут
источник

I

Ilya in Airflow
Не подскажите как в sqlSensor сделать расчетный timeout. Он должен рассчитываться как продолжительность от старта Дага до 21-00. Кто сталкивался? Попробовал через {dag_run.start_date} извернуться, но почему-то темплейты к timeout не подцепляются, хотя засунул его в templated_fields(
источник