Size: a a a

2021 March 12

VS

Vladislav 👻 Shishkov... in Airflow
Дмитрий Негреев
ох, намучаются с ними тоже
Да, сабмодули специфичны
источник

VS

Vladislav 👻 Shishkov... in Airflow
В целом можно попробовать, но для каждой репы придется свой airflow.cfg держать похоже...
источник

FS

Fedor Sumkin in Airflow
Привет. Есть даг где все таски выстроены для параллельного запуска. Но мне надо запускать по 1му и я создал пул с 1 слотом. Все работает ок, но когда каждый таск отрабатывает приходит сообщение в телеграм. Функция отправки сообщений в tg прописана в defaults. По идее она долдна запускаться после отработки дага.
источник

FS

Fedor Sumkin in Airflow
Я ожидал что сообщение придет 1 раз.
источник

FS

Fedor Sumkin in Airflow
Функция прописана для on_success
источник

FS

Fedor Sumkin in Airflow
Есть идеи почему так происходит?
источник

N

Nikolai in Airflow
defaults применяется ко всем операторам дага
источник

FS

Fedor Sumkin in Airflow
Раньше подобного не случалось для других операторов. В даге используются DockerOperator
источник

СГ

Станислав Горчаков... in Airflow
Ребят, подскажите можно как-то продебажить метод DagBag.collect_dags? мне нужно проверить, почему не работает .airflowignore, который почему-то логи записывает по всем питоновским файлам. Такое поведение началось с 2.0
источник

RF

Ruslan Fialkovsky in Airflow
всем привет. ни кто не сталкивался с такой проблемой - периодически на рандомных дагах ловлю
Failed to fetch log file from worker. 404 Client Error: NOT FOUND for url
airflow 2.0 c celery executor?
воркеров 2 шт
файл с логами не создается - запрашиваемый файл на обоих воркерах отсутствует
источник

N

Nikolai in Airflow
Ruslan Fialkovsky
всем привет. ни кто не сталкивался с такой проблемой - периодически на рандомных дагах ловлю
Failed to fetch log file from worker. 404 Client Error: NOT FOUND for url
airflow 2.0 c celery executor?
воркеров 2 шт
файл с логами не создается - запрашиваемый файл на обоих воркерах отсутствует
бывает такое, если в контейнерах и нету маунтов для логов
источник

RF

Ruslan Fialkovsky in Airflow
у меня не в контейнере(
источник

N

Nikolai in Airflow
там вообще не понятно, как он собирает логи с файлсерверов разных воркеров, потому что порт я видел только в одном месте для них и как следствие, второй фс не стартует и логи с него не собрать
источник

N

Nikolai in Airflow
но у нас логи исправно пишутся без фс воркера на 2.0.1
источник

RF

Ruslan Fialkovsky in Airflow
попробую 2.0.1
источник

MF

Mihail F in Airflow
Здравствуйте. Есть задачка поставить сенсор на Хадуп. Не очень понимаю какие именно параметры вбивать при создании hdfs коннекшна через веб АФ. Сейчас есть только вход по ключу на сервак с хадупом. Может кто сталкивался.
источник

I

Ivan in Airflow
Alexandr Vladimirovich
Коллеги, подскажите плиз, если запустить backfill ДАГа при указании в рамках ДАГа max_active_runs=1, то он не должен ведь параллельно запускать все date по DAG (параллельно даг не запускается)
Даже без max_active_runs=1, он будет последовательно запускать даг по датам.
источник

AV

Alexandr Vladimirovi... in Airflow
Ivan
Даже без max_active_runs=1, он будет последовательно запускать даг по датам.
к сожалению сейчас это не так(
источник

AV

Alexandr Vladimirovi... in Airflow
выглядит как баг определенной версии airflow
источник
2021 March 13

C

Combot in Airflow
Добро пожаловать в самое дружелюбное комьюнити.
источник