Size: a a a

2021 February 24

ЮЛ

Юрий Лифанов... in Airflow
Здравствуйте. Пытаюсь прикрутить аутентификацию в вебинтерфейсе airflow. В разделе [webserver] airflow.cfg устанавливаем authentification = True, собираем контейнер (запускаем айрфлоу в контейнере), после чего контейнер не живёт, постоянно рестартует. В чем может быть проблема?
источник

ME

Max Efremov in Airflow
А что в логах?
источник

SY

Stas Yudkin in Airflow
Юрий Лифанов
Здравствуйте. Пытаюсь прикрутить аутентификацию в вебинтерфейсе airflow. В разделе [webserver] airflow.cfg устанавливаем authentification = True, собираем контейнер (запускаем айрфлоу в контейнере), после чего контейнер не живёт, постоянно рестартует. В чем может быть проблема?
auth_backend указали?
источник

ЮЛ

Юрий Лифанов... in Airflow
Да
источник

ЮЛ

Юрий Лифанов... in Airflow
Password_auth
источник

А

Анастасия in Airflow
Привет!

Я хочу сделать универсальный sqlsensor для ожидания потоков oozie. То есть идея в том, чтобы другому разработчику нужно было просто импортнуть класс и в таске передать имя необходимого потока и, например, таймаут

В исходном коде SqlSensor есть template_ext, которое никак не используется. Подскажите, зачем оно нужно?
источник

VL

Vadim Lygin in Airflow
для jinja наверно
источник

ИК

Илья Китов in Airflow
Анастасия
Привет!

Я хочу сделать универсальный sqlsensor для ожидания потоков oozie. То есть идея в том, чтобы другому разработчику нужно было просто импортнуть класс и в таске передать имя необходимого потока и, например, таймаут

В исходном коде SqlSensor есть template_ext, которое никак не используется. Подскажите, зачем оно нужно?
ext - extension
источник

А

Анастасия in Airflow
Илья Китов
ext - extension
Это понятно. Просто оно нигде не используется - запрос не читается из файла
источник

ИК

Илья Китов in Airflow
Анастасия
Это понятно. Просто оно нигде не используется - запрос не читается из файла
Ну это по умолчанию наверное просто занесли по шамблону, можно же и из файла чтобы определял
источник

ВБ

Виталий Бикташев... in Airflow
в BaseOperator'е (родителе BaseSensorOperator'а) используются
источник

ВБ

Виталий Бикташев... in Airflow
Анастасия
Это понятно. Просто оно нигде не используется - запрос не читается из файла
это вот сюда
источник

WA

WAS AV in Airflow
WAS AV
Всем привет
Кто-то пробовал подружить airflow-clickhouse-plugin и airflow 2?
👋
источник

dp

dbdbdb pssp in Airflow
Всем привет, я новичек в AIRFLOW подскажите как правильно переносить данные с одного дага на другой ? Например я  работаю с пандас где очень много тысяч строк, и в разных дагах в разной последовательности я хочу делать разные вещи с ними, причем с результатом предидущего
источник

dp

dbdbdb pssp in Airflow
Идея постоянно записывать и читать из БД не привлекает
источник

VS

Vladislav 👻 Shishkov... in Airflow
у airflow нет пайплайна данных между тасками/дагами, для этого необходимо использовать сторонние инструменты/сервисы для хранения
источник

GB

Georgy Borodin in Airflow
dbdbdb pssp
Всем привет, я новичек в AIRFLOW подскажите как правильно переносить данные с одного дага на другой ? Например я  работаю с пандас где очень много тысяч строк, и в разных дагах в разной последовательности я хочу делать разные вещи с ними, причем с результатом предидущего
Airflow – не для потоковой обработки данных, между тасками должно быть промежуточное хранилище
источник

VS

Vladislav 👻 Shishkov... in Airflow
Georgy Borodin
Airflow – не для потоковой обработки данных, между тасками должно быть промежуточное хранилище
это не совсем потоковая обработка, любой etl инструмент работает так
источник

GB

Georgy Borodin in Airflow
Vladislav 👻 Shishkov
это не совсем потоковая обработка, любой etl инструмент работает так
Ну да, некорректно выразился, признаю)
источник

VS

Vladislav 👻 Shishkov... in Airflow
ну и в рамках одного таска никто не мешает это реализовать 😬
источник