Size: a a a

2020 December 07

VN

Viacheslav Nefedov in Airflow
Pavel
Возьмите флинк, там нет лишних зависимостей, разворачивается без проблем
Разворачивается-то без проблем. А вот писать к нему source, sink и обработчики на питоне - вообще никакой информации не найти
источник

ME

Max Efremov in Airflow
Хм, а после обновления до 13 версии на 3.8 обратно на 10 с 3.7 уже не уйти, да?) Там пикл протокол поменялся 😂
источник

ME

Max Efremov in Airflow
А, не, просто главная вебсервера не грузится, шикарно...
источник

T

Tumchik in Airflow
Ivan Kizimenko
кто то уже тестирует AIrflow 2.0 ? У меня чет постоянно вываливается 502, хочу понять я один такой или нет
где почитать можно про нововведения?
источник

IK

Ivan Kizimenko in Airflow
Tumchik
где почитать можно про нововведения?
источник

P

Pavel in Airflow
Бля, ну, а работать-то будет???)))
источник

IK

Ivan Kizimenko in Airflow
Pavel
Бля, ну, а работать-то будет???)))
Пока работает
источник

P

Pavel in Airflow
Ivan Kizimenko
Пока работает
У кого?)))
источник

IK

Ivan Kizimenko in Airflow
На тестовом серваке
источник

DN

Dmitriy Novikov in Airflow
Support for Custom XCom Backends
источник

DN

Dmitriy Novikov in Airflow
топ
источник

IK

Ivan Kizimenko in Airflow
Мне понравился TaskFlow API
источник

ME

Max Efremov in Airflow
А когда планируют 2.0 релизить, не знаете?
источник

IK

Ivan Kizimenko in Airflow
Там есть роадмэп
источник

IK

Ivan Kizimenko in Airflow
Сейчас вроде 63% готово
источник
2020 December 08

SZ

Sergey Zhuravlev in Airflow
Всем привет. Только начинаю разбираться в Airflow. Поставил, настроил, прицепил Celery как воркер, все вроде работает, тестовые даги работают. Создал свой первый простой даг, в первой функции делаю принт баз данных из mongodb, во второй функции делаю запрос к апи и сохраняю в локальный csv. Обе функции python operator. Захожу в UI, вижу что даг появился и сообщение мол даг поломан, так как нет модуля pymongo. Проходит 5 минут, сообщение пропадает и все начинает работать без проблем. Вопрос: airflow как то сам создает venv для дага и ставит нужные модули? И еще, киньте плиз норм видос для начинающих посмотреть на ваш взгляд или что почитать кроме офф доков. Пока не понял до конца про хуки, плагины. Спасибо
источник

ДН

Дмитрий Негреев... in Airflow
Сам airflow никаких venv не создает, только если вы PythonVirtualenvOperator не используете, тогда ваш PythonOperator в своем venv будет работать
источник

SZ

Sergey Zhuravlev in Airflow
Ясно, спс
источник

АЖ

Андрей Жуков... in Airflow
Дмитрий Негреев
подскажите где почитать про настройку кубэкзекутора?
что-то в доках только общий обзор, а про настройку pod template и всего другого ничего нет
У Олежи спроси :)
источник

P

Pavel in Airflow
Sergey Zhuravlev
Всем привет. Только начинаю разбираться в Airflow. Поставил, настроил, прицепил Celery как воркер, все вроде работает, тестовые даги работают. Создал свой первый простой даг, в первой функции делаю принт баз данных из mongodb, во второй функции делаю запрос к апи и сохраняю в локальный csv. Обе функции python operator. Захожу в UI, вижу что даг появился и сообщение мол даг поломан, так как нет модуля pymongo. Проходит 5 минут, сообщение пропадает и все начинает работать без проблем. Вопрос: airflow как то сам создает venv для дага и ставит нужные модули? И еще, киньте плиз норм видос для начинающих посмотреть на ваш взгляд или что почитать кроме офф доков. Пока не понял до конца про хуки, плагины. Спасибо
Все норм, эйр с задержками обновляет все свои classpath’ы, парсит файлы с дагами и пр. Проще всего перезапустить его, если и после перезапуска все останется - ищи ошибку
источник