Size: a a a

2021 May 26

R

Rus in Airflow
всем привет.  Народ поясните пожалуйста теоретический вопрос.
На локальном компе есть пара пайтон скриптов , которые надо запускать последовательно раз в сутки.
Для этого надо установить airflow на локальный комп и создать в нем таски на запуск этих скриптов по расписанию?

А допустим есть удаленный сервер на котором крутится AirFlow . Как-то можно настроить в этом серверном AirFlow задачи на исполнение пайтон скриптов , которые лежат не на этом же сервере , а на моем локальном компьютере? Или я глупость написал?
источник

ММ

Максим Мартынов... in Airflow
Можно, для этого нужно либо использовать CeleryExecutor (RabbitMQ и Sheduler на сервере, Worker и скрипты на ноде), либо SSHOperator (Scheduler и Worker на сервере, скрипты на ноде)
источник

ММ

Максим Мартынов... in Airflow
Если нод от силы пара штук, то проще конечно второй вариант, если больше и нужно распределять задачи по ним, то первый
источник

R

Rus in Airflow
нод - это локальный комп?
источник

ММ

Максим Мартынов... in Airflow
Обычно так называют машины в кластере, только не нод, а нодА (node, узел), проф деформация. Если так будет проще, то да, комп
источник

R

Rus in Airflow
@dolfinus
а  где почитать как этот вариант реализовать
CeleryExecutor (RabbitMQ и Sheduler на сервере, Worker и скрипты на ноде)?
источник

R

Rus in Airflow
или может курс какой посоветуете для начинающих?
источник

R

Roman in Airflow
Можешь начать с awesome airflow репы на гитхабе, там много материалов
источник

DP

Dmitriy Pyrin in Airflow
Подскажите, плиз, почему даг не планируется до тех пор пока предыдущее выполнение не станет success
источник

VS

Vladislav 👻 Shishkov... in Airflow
что значит "планируется"?
источник

DP

Dmitriy Pyrin in Airflow
висит в статусе no_status
источник

ME

Max Efremov in Airflow
А экзекьютор не сиквентал случайно?
источник

VS

Vladislav 👻 Shishkov... in Airflow
ну так если зависимость между тасками, логично, пока одна не отработает, другая не будет...
источник

DP

Dmitriy Pyrin in Airflow
он
источник

ME

Max Efremov in Airflow
Он не умеет в одновременное, делает одну таску за раз
источник

DP

Dmitriy Pyrin in Airflow
да один запуск уже завершился, но в статусе фэил, я запускаю второй раз, он просто не стртует, отмечаю предыдущее выполнение success  он начинает бежать
источник

ME

Max Efremov in Airflow
Depend on past?
источник

DP

Dmitriy Pyrin in Airflow
False
источник

DP

Dmitriy Pyrin in Airflow
просто ладно зависимость между таксами внутри одного заупска, но как связаны 2 независимых запуска
источник

VS

Vladislav 👻 Shishkov... in Airflow
два независимых связаны экзекьютером
источник