Привет. Есть даг где все таски выстроены для параллельного запуска. Но мне надо запускать по 1му и я создал пул с 1 слотом. Все работает ок, но когда каждый таск отрабатывает приходит сообщение в телеграм. Функция отправки сообщений в tg прописана в defaults. По идее она долдна запускаться после отработки дага.
Ребят, подскажите можно как-то продебажить метод DagBag.collect_dags? мне нужно проверить, почему не работает .airflowignore, который почему-то логи записывает по всем питоновским файлам. Такое поведение началось с 2.0
всем привет. ни кто не сталкивался с такой проблемой - периодически на рандомных дагах ловлю Failed to fetch log file from worker. 404 Client Error: NOT FOUND for url airflow 2.0 c celery executor? воркеров 2 шт файл с логами не создается - запрашиваемый файл на обоих воркерах отсутствует
всем привет. ни кто не сталкивался с такой проблемой - периодически на рандомных дагах ловлю Failed to fetch log file from worker. 404 Client Error: NOT FOUND for url airflow 2.0 c celery executor? воркеров 2 шт файл с логами не создается - запрашиваемый файл на обоих воркерах отсутствует
бывает такое, если в контейнерах и нету маунтов для логов
там вообще не понятно, как он собирает логи с файлсерверов разных воркеров, потому что порт я видел только в одном месте для них и как следствие, второй фс не стартует и логи с него не собрать
Здравствуйте. Есть задачка поставить сенсор на Хадуп. Не очень понимаю какие именно параметры вбивать при создании hdfs коннекшна через веб АФ. Сейчас есть только вход по ключу на сервак с хадупом. Может кто сталкивался.
Коллеги, подскажите плиз, если запустить backfill ДАГа при указании в рамках ДАГа max_active_runs=1, то он не должен ведь параллельно запускать все date по DAG (параллельно даг не запускается)
Даже без max_active_runs=1, он будет последовательно запускать даг по датам.