Size: a a a

2018 March 15

I

Igor in Airflow
Где-то точно всплывёт часть системы, которую Airflow будет отказываться распознавать по неUTC. Я лично натыкался на что-то похожее в триггере который запускает другой даг.
Если у вас есть возможность, переведите всё на UTC, включая метабазу airflow
источник

I

Igor in Airflow
Но, по-моему, что-то в духе "У нас почему-то X запускался не тогда когда мы хотели, а на 3 часа позже, и мы так и не разобрались и в итоге забили перевели просто время сервера" звучит на каждом втором докладе про airflow. Если не в докладе, так в кулуарах.
источник

NZ

Nikita Zh in Airflow
Igor
Где-то точно всплывёт часть системы, которую Airflow будет отказываться распознавать по неUTC. Я лично натыкался на что-то похожее в триггере который запускает другой даг.
Если у вас есть возможность, переведите всё на UTC, включая метабазу airflow
да, тоже считаю, что это самый приемлимый вариант, спасибо
источник
2018 March 16

WC

Wild Child in Airflow
источник

WC

Wild Child in Airflow
Всем привет 👋 может кто сталкивался с такой ошибкой при установке apache-airflow [all]? Upgrade setuptools пробовал, не помогло
источник

SS

Sergey Sheremeta in Airflow
а зачем вы ставите на винде?
источник

WC

Wild Child in Airflow
К сожалению, выбора нет
источник

МС

Максим Сёмочкин in Airflow
Судя по тому, что я вижу в этой библиотеке её не получится поставить на винду
источник

МС

Максим Сёмочкин in Airflow
источник

МС

Максим Сёмочкин in Airflow
В 14-ой строке хардкод пути. С точки зрения винды это ошибка
источник

SS

Sergey Sheremeta in Airflow
можно внутри докера на винде
источник

WC

Wild Child in Airflow
Максим Сёмочкин
В 14-ой строке хардкод пути. С точки зрения винды это ошибка
Да, попробовал установить отдельно пакет hive-thrift, ошибка идентична
источник

WC

Wild Child in Airflow
Sergey Sheremeta
можно внутри докера на винде
Попробую поковыряться ещё
источник

WC

Wild Child in Airflow
Спасибо
источник
2018 March 20

WC

Wild Child in Airflow
Пришлось заморочиться, но может кому будет полезно. Проблему решил установив airflow в подсистему линукс, и установил ssh соединение выбрав remote interpreter
источник

WC

Wild Child in Airflow
Нужно ещё вносить много правок в самом линуксе для полной установки, но это уже все есть в Google
источник

П

Павел Максимов in Airflow
источник
2018 March 21

П

Павел Максимов in Airflow
это инструкция похоже для новой версии 1.10, которая еще не вышла
источник

I

Igor in Airflow
TriggerDagRunOperator всё равно использует utcnow когда создаёт DagRunOrder, так что там даг будет запущен не в то же время, если даг, который его тригернул не в utc
https://github.com/apache/incubator-airflow/blob/master/airflow/operators/dagrun_operator.py#L61

А если буквально заменить timezone.utcnow() в этой строчке на datetime.datetime.utcnow() то всё будет предсказуемо
источник
2018 March 22

NZ

Nikita Zh in Airflow
Коллеги,
помогите разобраться с расписанием
когда создаю даг, создается таск инстанс в котором execution date стоит 21.03, хотя queued dttm 22.03
получается создается таск в очереди, который никогда не будет выполнен
откуда scheduler берет этот execution date?
источник