Size: a a a

2021 March 16

RL

Roman Lukianov in Airflow
A.K
преимущество графаны в том, что там есть разные роли, есть админ который видит все информации, и пользователь которому можно ограничить другие соурсы
https://www.metabase.com/docs/latest/administration-guide/05-setting-permissions.html

Так везде есть такая возможность. Но дело Ваше.
источник

O

Olga in Airflow
Всем привет! Расскажите, пожалуйста, какую среду разработки используете для написания кода дагов? Есть ли что-то, заточенное именно под Airflow (например, чтоб отслеживать ошибки в даге до его загрузки в Airflow)?
источник

VS

Vladislav 👻 Shishkov... in Airflow
A.K
преимущество графаны в том, что там есть разные роли, есть админ который видит все информации, и пользователь которому можно ограничить другие соурсы
Разные роли есть почти везде. Графана в основном про временные ряды, а не про bi, как только вы захотите построить отчет YoY, вы испытаете 100500 боли подготовки данных и построения запросов из графаны. Я уж молчу про клиентское усреднение...
источник

VS

Vladislav 👻 Shishkov... in Airflow
И да, в графане многие нужные вещи по поводу разделения ролей находятся в энтерпрайзе, который стоит как самолет...
источник

А

Антон in Airflow
можно читать эксель файлы через пандас, и через него же писать в базу
и тут есть 2 пути: ELT или ETL
1. читаете и пишете в базу в таблицу с сыряком, и потом уже преобразуете как Вам нужно
2. читаете, преобразуете как Вам нужно, и записываете в базу
источник

А

Антон in Airflow
по поводу ролей и тыды и тыпы - они есть и в суперсете
источник

N

Nikolai in Airflow
Olga
Всем привет! Расскажите, пожалуйста, какую среду разработки используете для написания кода дагов? Есть ли что-то, заточенное именно под Airflow (например, чтоб отслеживать ошибки в даге до его загрузки в Airflow)?
локальный экземпляр airflow для разработки
источник

O

Olga in Airflow
Nikolai
локальный экземпляр airflow для разработки
А код где пишете? Notepad ++?
источник

А

Антон in Airflow
Olga
Всем привет! Расскажите, пожалуйста, какую среду разработки используете для написания кода дагов? Есть ли что-то, заточенное именно под Airflow (например, чтоб отслеживать ошибки в даге до его загрузки в Airflow)?
pycharm
источник

N

Nikolai in Airflow
Olga
А код где пишете? Notepad ++?
кому как нравится, notepad не для меня) можно писать pycharm, vscode, sublimetext
мой выбор vscode, хотя есть купленный pycharm pro
источник

A

Antony in Airflow
Привет
пользуемся пулами для ограничений тасок но тут выясняется что не очень хорошо они работают в 1.10,4
источник

O

Olga in Airflow
Olga
Всем привет! Расскажите, пожалуйста, какую среду разработки используете для написания кода дагов? Есть ли что-то, заточенное именно под Airflow (например, чтоб отслеживать ошибки в даге до его загрузки в Airflow)?
Спасибо за ответы 🙏 Получается, используем стандартные IDE для Python, никаких плагинов для Airflow к ним не существует. Т.е., например, если я забуду задать dag_id при описании дага, то узнаю об этом только при попытке загрузки дага в Airflow. У IDE нет возможностей такие ошибки отследить. Поправьте меня, если я не права )
источник

N

Nikolai in Airflow
Olga
Спасибо за ответы 🙏 Получается, используем стандартные IDE для Python, никаких плагинов для Airflow к ним не существует. Т.е., например, если я забуду задать dag_id при описании дага, то узнаю об этом только при попытке загрузки дага в Airflow. У IDE нет возможностей такие ошибки отследить. Поправьте меня, если я не права )
источник

O

Olga in Airflow
Да, тестирование из командной строки тоже пробовала, спасибо.
источник

ME

Max Efremov in Airflow
Olga
Спасибо за ответы 🙏 Получается, используем стандартные IDE для Python, никаких плагинов для Airflow к ним не существует. Т.е., например, если я забуду задать dag_id при описании дага, то узнаю об этом только при попытке загрузки дага в Airflow. У IDE нет возможностей такие ошибки отследить. Поправьте меня, если я не права )
Я дебажу сразу на тестовом серваке :!)
источник

ME

Max Efremov in Airflow
Всё хочу в ci добавить тесты для аирфлоу
источник

DP

Dmitriy Pyrin in Airflow
Коллеги нужна помощь.
Есть задача, нужно трегирить соседний dag, пока он не завершится с нужным событием, сложность в том что шедулер должен работать только раз в сутки и нужно триггерить даг,  до тех пор пока он не выполнится раз в 5 минут в течение часа, если он так и не выполнился, то запуск только по шедулеру на след день.
Если есть идеи, буду раз любой помощи.  airflow 1.10
источник

N

Nikolai in Airflow
Dmitriy Pyrin
Коллеги нужна помощь.
Есть задача, нужно трегирить соседний dag, пока он не завершится с нужным событием, сложность в том что шедулер должен работать только раз в сутки и нужно триггерить даг,  до тех пор пока он не выполнится раз в 5 минут в течение часа, если он так и не выполнился, то запуск только по шедулеру на след день.
Если есть идеи, буду раз любой помощи.  airflow 1.10
почему просто не зашедулить нужный даг и не настроить на нем репиты?
источник

DP

Dmitriy Pyrin in Airflow
требование чтобы он запускался только тригером
источник

N

Nikolai in Airflow
ну даже так, можно репиты там настроить, или я что то не так понимаю?
источник