Size: a a a

2018 June 06

МС

Максим Сёмочкин in Airflow
Поправил hosts заработало
источник

SS

Sergey Sheremeta in Airflow
Максим Сёмочкин
В логах нашёл Warning (!!! Не Error !!!) о том что хостнеймы не совпадают.
это ключевая зацепка. спасибо за объяснение
источник
2018 June 08

KS

Ksenia Stroykova in Airflow
Максим Сёмочкин
В логах нашёл Warning (!!! Не Error !!!) о том что хостнеймы не совпадают.
вот у меня точно такая же проблема, что-то убивает таски с "Task received SIGTERM signal", но такого ворнинга нет
источник

KS

Ksenia Stroykova in Airflow
какие логи нужно проверить? самой задачи? или мб шедулера?
источник

МС

Максим Сёмочкин in Airflow
скедулера
источник

KS

Ksenia Stroykova in Airflow
вижу в доке, что шедулер убивает таски, если нет heartbeat. как это работает? это случайно не появление записей в логе?
источник

KS

Ksenia Stroykova in Airflow
"Zombie tasks are characterized by the absence of an heartbeat (emitted by the job periodically)"
источник

I

Igor in Airflow
Ksenia Stroykova
вижу в доке, что шедулер убивает таски, если нет heartbeat. как это работает? это случайно не появление записей в логе?
В базу метаданных в таблицу job пишется апдейт от таски
источник

МС

Максим Сёмочкин in Airflow
А никто не сталкивался с тем что таски не завершаются?
источник

МС

Максим Сёмочкин in Airflow
Так и висят running
источник

МС

Максим Сёмочкин in Airflow
LocalExecutor если что
источник

WC

Wild Child in Airflow
Максим Сёмочкин
Так и висят running
Так а разве по тайм ауту не отваливаются?
источник

МС

Максим Сёмочкин in Airflow
Неа
источник

KS

Ksenia Stroykova in Airflow
Ksenia Stroykova
вижу в доке, что шедулер убивает таски, если нет heartbeat. как это работает? это случайно не появление записей в логе?
похоже что мои таски убивает celery из за muptiprocessing в них. если кто сталкивался с таким, напишите плз как решали
источник
2018 June 10

МС

Максим Сёмочкин in Airflow
На PyCon Russia 2018 будет доклад посвящённый Airflow :)

http://pycon.ru/2018/program/content/Alejandro/
источник

МС

Максим Сёмочкин in Airflow
Кто-то поедет?
источник

МС

Максим Сёмочкин in Airflow
Если да то пишите. Я там буду :)
источник
2018 June 16

KS

Ksenia Stroykova in Airflow
регулярно вижу сообщения
dependency 'Task Instance Not Already Running' FAILED: Task is already running, it started on 2018-06-15 16:32:10.011906.
dependency 'Task Instance State' FAILED: Task is in the 'running' state which is not a valid state for execution. The task must be cleared in order to be run.

при этом на celery таск продолжает работать, но в интерфейсе лог отвалился

кто-нибудь сталкивался?
источник

KS

Ksenia Stroykova in Airflow
мое первое предположение, что это из-за visibility_timeout и 'task_acks_late': True,
источник
2018 June 17

I

Igor in Airflow
Ksenia Stroykova
регулярно вижу сообщения
dependency 'Task Instance Not Already Running' FAILED: Task is already running, it started on 2018-06-15 16:32:10.011906.
dependency 'Task Instance State' FAILED: Task is in the 'running' state which is not a valid state for execution. The task must be cleared in order to be run.

при этом на celery таск продолжает работать, но в интерфейсе лог отвалился

кто-нибудь сталкивался?
Всегда воспринимал это сообщение как то, что скедулер отказывается запускать таску, так как она уже ранится.
источник