Size: a a a

2020 November 02

E

Edya in Airflow
Станислав Горчаков
ок, спасибо за идею и важно вставлять его не в default_args
ага, как и catchup
источник

NP

N P in Airflow
Станислав Горчаков
ок, спасибо за идею и важно вставлять его не в default_args
А почему не в дефолт аргс?
источник

СГ

Станислав Горчаков... in Airflow
N P
А почему не в дефолт аргс?
потому что если посмотреть в код, то они там как параметры класса стоят и поэтому через default_args не будут отрабатывать
источник

NP

N P in Airflow
Станислав Горчаков
потому что если посмотреть в код, то они там как параметры класса стоят и поэтому через default_args не будут отрабатывать
Спасибо за пояснение)
источник

СГ

Станислав Горчаков... in Airflow
я тоже думал, что default_args - это просто как *kwargs, но оказалось, что нет)
источник

NP

N P in Airflow
А где и как проеисать правильно?
источник

NP

N P in Airflow
Прописать
источник

E

Edya in Airflow
в Dag(…) передать
источник

СГ

Станислав Горчаков... in Airflow
N P
А где и как проеисать правильно?
источник

СГ

Станислав Горчаков... in Airflow
N P
А где и как проеисать правильно?
вот так, если для всех хотите по умолчанию
источник

СГ

Станислав Горчаков... in Airflow
в airflow.cfg это
источник

NP

N P in Airflow
Спасибо тебе!
источник

JS

John Smith in Airflow
Tishka17
А как я могу передать параметр в запуск дага? Грубо, у меня есть граф, обрабатывающий один объект (по айди, урлу или типа того). Как я могу при запуске указать айди объекта для обработки?
Так там же "переменные"
источник
2020 November 03

s

satya in Airflow
Thanks for adding me
источник

s

satya in Airflow
I am new to airflow.
источник

s

satya in Airflow
Covid2020:
I was looking for a simple solution for running cronjobs for python miniconda3 docker to download files from 90 or more raspberry pi in remote place. As it's a docker container where cronjob run I see it's not idea. Is airflow suitable for cronjobs for download files.

Ex */5 ****  download.sh 102.168.44.2.conf
*/5 ****  download.sh 102.168.44.3.conf
*/5 ****  download.sh 102.168.44.99.conf


Any suggestions
источник

s

satya in Airflow
Also need to check if the Cron job ran successfully every five minutes. See celery with Django, faasd, python crontab , now airflow. Was looking for simple to use with more features.
источник

AA

Anton Afonin in Airflow
satya
Covid2020:
I was looking for a simple solution for running cronjobs for python miniconda3 docker to download files from 90 or more raspberry pi in remote place. As it's a docker container where cronjob run I see it's not idea. Is airflow suitable for cronjobs for download files.

Ex */5 ****  download.sh 102.168.44.2.conf
*/5 ****  download.sh 102.168.44.3.conf
*/5 ****  download.sh 102.168.44.99.conf


Any suggestions
Easiest (but not the best) solution - just put your jobs from cron to airflow BashOperator
https://airflow.apache.org/docs/stable/howto/operator/bash.html
источник

s

satya in Airflow
Thanks will look.
источник

AA

Anton Afonin in Airflow
satya
I am new to airflow.
источник