Size: a a a

2020 October 12

AA

Anton Afonin in Airflow
источник

M

Mikhail in Airflow
коллеги, а воркерам celery нужно иметь доступ к коду дагов?
источник

ME

Max Efremov in Airflow
ага
источник

M

Mikhail in Airflow
meh
источник

ME

Max Efremov in Airflow
я им конфиг прокидываю и даги
источник

M

Mikhail in Airflow
очень не хочется перезапускать воркеры при обновлении кода, а в некоторых инфраструктурах (на кубере) трудно их подсовывать без перезагрузки
источник

YL

Yevhenii Lukashov in Airflow
Сделай в подах ещё контейнер с гид синхронизацией и общим pvc
источник

YL

Yevhenii Lukashov in Airflow
И будет без перезагрузки
источник

YL

Yevhenii Lukashov in Airflow
Я например сделал efs общий на все контейнеры и под с гит хуком. Ты делаешь коммит в мастер тут же без перезагрузок это появляется в деве, делаешь в таг - идёт в прод
источник

ME

Max Efremov in Airflow
А как сказать воркерам, чтобы они pid файл создавали?
источник

ME

Max Efremov in Airflow
хочу настроить healthcheck на его основе, а файла нет...
источник

ME

Max Efremov in Airflow
    entrypoint: airflow worker -cn worker_1 --pid airflow-worker.pid
   healthcheck:
     test: ["CMD-SHELL", "[ -f /usr/local/airflow/airflow-worker.pid ]"]
     interval: 30s
     timeout: 30s
     retries: 3
источник

YL

Yevhenii Lukashov in Airflow
По моему создают, завтра утром буду за компом проверю
источник

ME

Max Efremov in Airflow
в AIRFLOW_HOME нету...
источник

YL

Yevhenii Lukashov in Airflow
Точно нету
источник
2020 October 13

L

L-dar in Airflow
Привет! Я совсем новичок. Подскажите как завершить скрипт, если условия не соблюдаются?
источник

OI

Oleg Ilinsky in Airflow
Mikhail
коллеги, а воркерам celery нужно иметь доступ к коду дагов?
Може dag pickle делать. Тогда даги только на шедулере нужны
источник

OI

Oleg Ilinsky in Airflow
Но вообще выше писали, в поде с воркером можно сделать контейнер с gitsync и общий с воркером вольюм. Отрабатывает довольно быстро.
источник

L

L-dar in Airflow
Подскажите как правильно отлаживать скрипт у меня airflow на докере. Использую PyCharm?
источник

L

L-dar in Airflow
через print это какая то жесть, хотелось дебагером
источник