Size: a a a

2020 September 14

VE

Vladimir Elfimov in Airflow
Борис М
и последние 2 вопроса, если можно. Скорее всего есть всякие гит где люди пишут самопильные модули, есть ли централизованный сайт с таким?
Самопильные модули?
Имеется ввиду оператора / сенсоры и тп?
источник

БМ

Борис М in Airflow
Vladimir Elfimov
Самопильные модули?
Имеется ввиду оператора / сенсоры и тп?
Да
источник

VE

Vladimir Elfimov in Airflow
А идея клевая, тоже бы там порылся в какие-то моменты.
источник

АЖ

Андрей Жуков... in Airflow
источник

VE

Vladimir Elfimov in Airflow
Кайф, спасибо
источник

БМ

Борис М in Airflow
Спасибо
источник

ДН

Дмитрий Негреев... in Airflow
Борис М
и последние 2 вопроса, если можно. Скорее всего есть всякие гит где люди пишут самопильные модули, есть ли централизованный сайт с таким?
https://github.com/airflow-plugins/
Есть набор плагинов в репе автономеров, помимо дефолтных операторов от самого airflow.
Но для prod ready решения скорее всего вам либо их форкать и допиливать придётся, либо что-то своё.
источник

v

vasiliy in Airflow
Коллеги, может кто сталкивался…скедулер в кубере раз в пару дней отваливается по ООМ, по дефолту он лог пишет в tmpfs?(мой косяк, забыл вынести на PV)
источник

Р

Роман in Airflow
Ребята, есть таск с BashOperator, как сделать чтобы при ошибке, все равно таск был успешен?
источник

PA

Panchenko Andrey in Airflow
а почему внутри баша, нельзя этот кондишн прописать?
источник

Р

Роман in Airflow
можно пример?
источник

PA

Panchenko Andrey in Airflow
например:
селект из базы за вчера ничего не возвращает и это уже ошибка, для логики.
можно через пасс реализовать можно явно запринтовать кол-в строк если селект ничего не вернул значит 0 если есть значит х
источник

PA

Panchenko Andrey in Airflow
просто пример
источник

С

Сюткин in Airflow
Panchenko Andrey
например:
селект из базы за вчера ничего не возвращает и это уже ошибка, для логики.
можно через пасс реализовать можно явно запринтовать кол-в строк если селект ничего не вернул значит 0 если есть значит х
Если 0 то можно AirflowSkipException
источник

Р

Роман in Airflow
да я думал есть способ попроще
источник

PA

Panchenko Andrey in Airflow
можно, но я обычно внутри баш и пайтон оператора так оборачиваю и все
источник

АЖ

Андрей Жуков... in Airflow
|| true
источник

АЖ

Андрей Жуков... in Airflow
и все
источник

PA

Panchenko Andrey in Airflow
про эксепшен не знал
источник

АЖ

Андрей Жуков... in Airflow
баш успешен всегда!
источник