Size: a a a

2021 April 01

А

Андрей in Airflow
ну там вроде как и написано в ADDITIONAL_PYTHON_DEPS пакеты перечислять.
источник

C

Combot in Airflow
Добро пожаловать в самое дружелюбное комьюнити.
источник

А

Антон in Airflow
Dmitriy Pyrin
а если дока какая нибудь?
источник

RB

Roman Bakhtaraev in Airflow
привет, а кто-нибудь сталкивался с проблемой разлогинивания/сброса всех пользовательских сессий после очередного деплоя airflow инсталляции в k8s?
версия: 2.0.1
источник

VS

Vladislav 👻 Shishkov... in Airflow
А как вы видите, чтобы не разлогиневало?
источник

RB

Roman Bakhtaraev in Airflow
В плане? в 1.10.12-14 таких проблем не было, ну кука по идее же есть пользовательская и она явно не протухает за такое время

Я имею в виду, что UI разлогинивает
источник

VS

Vladislav 👻 Shishkov... in Airflow
Была проблема секьюрности с кукой, можно было пройти авторизацию с кукой от другого хоста. Сейчас там идет генерация сида где-то, вроде можно его зафиксировать в конфиге, но попахивает бредом
источник

RB

Roman Bakhtaraev in Airflow
Vladislav 👻 Shishkov
Была проблема секьюрности с кукой, можно было пройти авторизацию с кукой от другого хоста. Сейчас там идет генерация сида где-то, вроде можно его зафиксировать в конфиге, но попахивает бредом
интересненько 🤔
источник

А

Андрей in Airflow
Кто может подсказать как для 2.0 устанавливать нужные пакеты pip-ом? Я докерфайле  указал нужный пакет в переменной ADDITIONAL_PYTHON_DEPS. В логе видел что он поставился. Но аирфлоу его не видит.
источник

A

Alex in Airflow
Андрей
Кто может подсказать как для 2.0 устанавливать нужные пакеты pip-ом? Я докерфайле  указал нужный пакет в переменной ADDITIONAL_PYTHON_DEPS. В логе видел что он поставился. Но аирфлоу его не видит.
RUN pip install
источник

А

Андрей in Airflow
пихнул уже во все переменные 😂 все равно не видит. docker build --rm --build-arg RUNTIME_APT_DEPS="peewee" --build-arg INSTALL_PROVIDERS_FROM_SOURCES="true" --build-arg INSTALL_FROM_PYPI="true " --build-arg ADDITIONAL_PYTHON_DEPS="peewee" --build-arg ADDITIONAL_AIRFLOW_EXTRAS="peewee" -t apache/airflow-docker:2.0.1 .
источник

А

Андрей in Airflow
Alex
RUN pip install
👍
источник

GB

Georgy Borodin in Airflow
Андрей
ну там вроде как и написано в ADDITIONAL_PYTHON_DEPS пакеты перечислять.
Ну я же со ссылкой на раздел прям скинул про расширение образа.
PyPI dependencies in Apache Airflow are installed in the user library, of the "airflow" user, so you need to install them with the --user flag and WITHOUT switching to airflow user. Note also that using --no-cache-dir is a good idea that can help to make your image smaller.

Ну и пример докерфайла внизу
источник

А

Андрей in Airflow
Georgy Borodin
Ну я же со ссылкой на раздел прям скинул про расширение образа.
PyPI dependencies in Apache Airflow are installed in the user library, of the "airflow" user, so you need to install them with the --user flag and WITHOUT switching to airflow user. Note also that using --no-cache-dir is a good idea that can help to make your image smaller.

Ну и пример докерфайла внизу
оно так и ставит само. я же докерфайл airflow использую а не самописку
источник

А

Андрей in Airflow
скрипт install_additional_dependencies это делает
источник

А

Андрей in Airflow
при сборке докера я вижу что пакет ставится. но потом в контейнере его нифига нет.
источник

GB

Georgy Borodin in Airflow
Андрей
скрипт install_additional_dependencies это делает
Передать билд аргументы не лучше, чем положить requirements-файл свой: в первом случае пересборка потребует поиска изначально переданных аргументов, во втором любой, кто знаком с докеризацией Python-приложений (да и вообще просто с управлением зависимостями для Python-кода) сможет дополнить образ, дописав в requirements.txt
источник

GB

Georgy Borodin in Airflow
Плюс, когда ты будешь писать DAG, ты легко сможешь сделать venv из этого requirements-файла и наслаждаться подсветкой в IDE и прочими прелестями
источник

GB

Georgy Borodin in Airflow
Ну и ещё в плюсы использования
FROM airflow:n
RUN pip install -r requirements.txt

Как только возникнет потребность использовать приватный PyPi, прокинуть pip.conf получится, с билд-аргументами придётся попотеть
источник

GB

Georgy Borodin in Airflow
Ну и наконец кэширование слоёв: с билд-аргами у тебя слой FROM airflow:n будет меняться, а в случае установки через RUN-инструкцию, он будет закэширован
источник