Size: a a a

2020 July 23

AA

Anton Afonin in Airflow
Sabir
Yes I'm going to use MySQL server to store metadata of Airflow. And explicit flag of SQL Server should be turn on to initialize Airflow database. But I have other databases as well in that server that will affect if I turn the flag to on. That's the issue.
Maybe python virtualenv separate that variable to?)
источник

DS

Dimitriy Scherbenko in Airflow
Aлексей Mатюхин
У Вас в состоянии off
Спасибо, думал, этот параметр на влияет, если запускать из консоли
источник
2020 July 25

BB

Bral Bral in Airflow
Что используете для дебага дагов? Debug executor через ide? А аирфлоу в контейнере или нет ? У меня винда 10, хочу дебажить через пайчарм. В приоритете аирфлоу запустить в контейнере . Что в голову пришло - поднять контейнер докера и подключить его как ssh интерпретатор, а туда установить аирфлоу. Какие вообще бест практисы ?
источник

VB

Valentin Boltach in Airflow
Bral Bral
Что используете для дебага дагов? Debug executor через ide? А аирфлоу в контейнере или нет ? У меня винда 10, хочу дебажить через пайчарм. В приоритете аирфлоу запустить в контейнере . Что в голову пришло - поднять контейнер докера и подключить его как ssh интерпретатор, а туда установить аирфлоу. Какие вообще бест практисы ?
источник

PA

Panchenko Andrey in Airflow
Так это проф версия пайчарма
источник

M

Mikhail in Airflow
Bral Bral
Что используете для дебага дагов? Debug executor через ide? А аирфлоу в контейнере или нет ? У меня винда 10, хочу дебажить через пайчарм. В приоритете аирфлоу запустить в контейнере . Что в голову пришло - поднять контейнер докера и подключить его как ssh интерпретатор, а туда установить аирфлоу. Какие вообще бест практисы ?
Ну у нас есть компоуз файл который поднимает локальную среду и подключается к тестовой базе
источник

M

Mikhail in Airflow
Дальше exec и test
источник

BB

Bral Bral in Airflow
Спасибо, то, что нужно .
источник

DT

Dmitry Tataurov in Airflow
Привет. Есть тут те, кто успел поюзать Prefect? Интересует обмен опытом.
источник

マサ

マキシム サモイロフ... in Airflow
Может кто-нибудь тут разбирался в логировании airflow при запуске initdb? Под капотом initdb запускает миграции через alembic с конфигом alembic.ini, который просто уничтожает все логирование, которое было настроено до него. Есть ли способ бороться с таким дефолтным поведением?
источник
2020 July 26

VS

Vladislav 👻 Shishkov... in Airflow
マキシム サモイロフ
Может кто-нибудь тут разбирался в логировании airflow при запуске initdb? Под капотом initdb запускает миграции через alembic с конфигом alembic.ini, который просто уничтожает все логирование, которое было настроено до него. Есть ли способ бороться с таким дефолтным поведением?
А там логирование чего?
источник

VS

Vladislav 👻 Shishkov... in Airflow
Вроде как все логирование airflow в airflow.cfg прописывается
источник

GG

George Gaál in Airflow
マキシム サモイロフ
Может кто-нибудь тут разбирался в логировании airflow при запуске initdb? Под капотом initdb запускает миграции через alembic с конфигом alembic.ini, который просто уничтожает все логирование, которое было настроено до него. Есть ли способ бороться с таким дефолтным поведением?
Не понимаю проблемы, опиши подробнее
источник

GG

George Gaál in Airflow
Инитдб же нужен только при первом старте вроде (?)
источник

VS

Vladislav 👻 Shishkov... in Airflow
При апгрейде еще, но там уже вроде сделали upgradedb, хотя я лично не нашел отличий...
источник

マサ

マキシム サモイロフ... in Airflow
George Gaál
Инитдб же нужен только при первом старте вроде (?)
Мы запускаем dag.run для локального тестирования дагов, поднимаем для этого локальный екзекьютор без вебсервера и шедулера. Инитдб нужен, чтобы проинициализировать конфигурацию airflow, коннекшены сделать и все такое. Таски нормально запускаются, но в них не работает логирование, которое на нашем основном инстансе airflow нормально работает (через стандартный logging.info)
источник

GG

George Gaál in Airflow
Vladislav 👻 Shishkov
Вроде как все логирование airflow в airflow.cfg прописывается
👆?
источник

GG

George Gaál in Airflow
версия та же самая ?
источник

VS

Vladislav 👻 Shishkov... in Airflow
Конфиг
источник

マサ

マキシム サモイロフ... in Airflow
Конфиг самый дефолтный
источник