Size: a a a

2021 May 10

GB

Georgy Borodin in Airflow
Чаты всё-таки для вопросов, которые хочется обсудить/нереально нагуглить
источник

マサ

マキシム サモイロフ... in Airflow
источник
2021 May 11

SC

Stanislav Chernov in Airflow
Привет!
А как можно в docker-compose добавить для образа airflow установку доп. пакетов через pip ?
источник

SC

Stanislav Chernov in Airflow
источник

SZ

Sergey Zhuravlev in Airflow
Ну самый простой путь, возьмите официальный Dockerfile и дополните его тем, чем надо. Соответственно в docker-compose укажите вместо image его через build. Ну или заранее сбилдите, залейте куда нибудь свой кастомный образ и в image укажите его. https://github.com/apache/airflow/blob/2c6c7fdb2308de98e142618836bdf414df9768c8/Dockerfile#L39
источник

SC

Stanislav Chernov in Airflow
Спасибо, пытаюсь по этому пути идти, но не могу понять как правильно прописать build : "filename"...
в docker-compose
источник

SZ

Sergey Zhuravlev in Airflow
Ну если положить Dockerfile туда же, где docker-compose, то будет 'build: .'
источник

SC

Stanislav Chernov in Airflow
а ему можно имя задавать другое ?
источник

SZ

Sergey Zhuravlev in Airflow
Нет
источник

SZ

Sergey Zhuravlev in Airflow
Если вы про имя докерфайла
источник

SC

Stanislav Chernov in Airflow
ааа, вот в чем дело... понятно.
а если docker-файлы раскидать по папкам ?
источник

SZ

Sergey Zhuravlev in Airflow
То относительный путь укажите
источник

SC

Stanislav Chernov in Airflow
круто!
всё получилось
источник

SC

Stanislav Chernov in Airflow
источник

SC

Stanislav Chernov in Airflow
Спасибо
источник

SZ

Sergey Zhuravlev in Airflow
источник

R

Roma Nikolaev in Airflow
Добрый день! Вопрос от новичка. Мне нужно получить данные и сохранить их в локальную MySQL базу. Airflow стоит в докер контейнере. MySQL установлен на самом компьютере (винда 10). Подскажите, пожалуйста, как передать данные из контейнера в локальную базу данных. Никак не могу найти ответ на это вопрос. Если кто сталкивался с таким, подскажите, пожалуйста как быть или где почитать.
P.S. пробовал через sqlalchemy и команду create_engine, но всегда получаю ошибку [Errno 111] Connection refused. Пробовал создавать нового юзера в MySQL и выдавать ему все правда доступа - не помогло.
источник

SK

Sergej Kutepov in Airflow
Можно через пандас
источник

SK

Sergej Kutepov in Airflow
Нужно ещё порты в докере открыть
источник

🍒

🍒 in Airflow
network mode: host
источник