Size: a a a

2021 April 20

А

Александр in Airflow
А не старт дейт минус интервал (не плюс)?
источник

ЕГ

Евгений Глотов... in Airflow
Не будет он в старт дэйт запускаться, только в старт дэйт + интервал за старт дейт🤔
источник

AA

Anton Afonin in Airflow
Не запустится, только когда один интервал пройдёт, сверху написали правильно
источник

D

Dnz in Airflow
А если вручную запустить?
источник

AA

Anton Afonin in Airflow
Ручной запуск идёт вне расписания)
источник

AA

Anton Afonin in Airflow
Могут быть неожиданные проблемы, если используются всякие {{ds}}
источник

ВИ

Влад Ибрагимов... in Airflow
Здравствуйте, подскажите, есть ли в операторе EmailOperator возможность выставления флага(важность/срочность) что то такое? Спасибо.
источник

C

Combot in Airflow
Arlie Knapp добро пожаловать в русскоязычное комьюнити airflow.
источник

DS

Dmytro Striletskyi in Airflow
Привет!

Подскажите, пожалуйста, хочется под каждый DAG пилить кастомную UI, в котором продакт менеджеры смогут менять определенные параметры. Например, сегодня мы делаем отчет за такой-то период, а завтра за другой — вот выставлять range этих самых дат хочется в UI руками. В итоге каждый запуск DAG читает эти параметры и уже делает другую SQL выборку в одинаковом шаблоне, где эти параметры подставляются.

Из коробки ничего не нашел, open source решений тоже.
источник

OI

Oleg Ilinsky in Airflow
airflow variables?
источник

A

Alex in Airflow
можно параметры передавать, например, через конфиг json, либо airflow variable. только не очень понятно зачем это в даге? вы в даге агрегацию какую-то делаете? у вас BI-решение не умеет время в sql-запрос добавлять?
источник

OI

Oleg Ilinsky in Airflow
из коробки что-то такое есть в Prefect
источник

M

Mikhail in Airflow
Звучит как будто вам нужен BI, а не оркестратор задач
источник

A

Antony in Airflow
есть только несколько параметров менять то можешь сделать Даг без интервала, то есть его будут только тригерить

и в тригер можно передавать параметры, прямо в аирфлоу (видел в статьях)
источник

A

Antony in Airflow
источник

DS

Dmytro Striletskyi in Airflow
Хотел упростить задачу, чтобы сконцентрироваться на проблеме, а получилось наоборот. У нас не отчеты, у нас модели машинного обучения. У них есть гиперпарамеры (рассматривайте как обычные параметры int в функциях). Сейчас раз в N дней модели переобучаются: AirFlow помогает делать ETL, valuation модели и прочее. Эти параметры влияют на пользователей — если задать одни параметры, им будет одна выдача, если задать другие, будет другая.

У нас есть A/B тестирование, под него нам иногда надо сделать так, чтобы продакты могли зайти на UI, задать параметры, задеплить модель и помотреть как это повлияло на пользователей — помимо остальной работы, где эти параметры определяются автоматически.

Им будет неудобно использовать Variables — JSON это не для них, слишком сложно. Хочется просто формочку в UI в каждом DAG.
источник

A

Alex in Airflow
тогда надо может через api запускать, а интерфейс делать свой? готовых решений не видел для такого, к сожалению
источник

A

Alex in Airflow
переменные, например, можно через api тоже изменять
источник

A

Antony in Airflow
пока искал пример как наткнулся
на фласке собираешь параметры и делаешь тригер даг
источник

M

Mikhail in Airflow
Напишите плагин, он позволяет делать кастомные страницы
источник