Size: a a a

2020 September 01

C

Combot in Airflow
Добро пожаловать в самое дружелюбное комьюнити.
источник

C

Combot in Airflow
Добро пожаловать в самое дружелюбное комьюнити.
источник

L

Lexis in Airflow
Vladislav Akatov
Кто-нибудь испытывал проблему: в LocalExecutor при ошибке в тасках scheduler перестает работать и возвращает
The scheduler does not appear to be running.
Прикрутил автоматический перезапуск шедулера
источник

L

Lexis in Airflow
Подскажите такой вопрос (наверняка набивший оскомину): интервал в даге - сутки. Как в дагранах оставить execution_date с 00:00 по 23:59, но чтобы стартовала загрузка в 4 часа утра (по прошествии периода)? Вроде и нашел что-то похожее на решение https://stackoverflow.com/questions/53564657/can-i-add-a-delay-to-a-schedule-in-airflow Не не пойму какое лучше, и смущает изменение processing_date
источник

AA

Anton Afonin in Airflow
Второй ответ про таймсенсор вроде ок
источник

AA

Anton Afonin in Airflow
@olin32e раскказывал, что у них так и работает
источник

OI

Oleg Ilinsky in Airflow
Lexis
Подскажите такой вопрос (наверняка набивший оскомину): интервал в даге - сутки. Как в дагранах оставить execution_date с 00:00 по 23:59, но чтобы стартовала загрузка в 4 часа утра (по прошествии периода)? Вроде и нашел что-то похожее на решение https://stackoverflow.com/questions/53564657/can-i-add-a-delay-to-a-schedule-in-airflow Не не пойму какое лучше, и смущает изменение processing_date
Ага, у меня TimeDeltaSensor везде. А расписание одинаковое
источник

OI

Oleg Ilinsky in Airflow
как-то так это выглядит
источник

L

Lexis in Airflow
Oleg Ilinsky
Ага, у меня TimeDeltaSensor везде. А расписание одинаковое
А не будет затупливать ран если во время задержки перезапуститься весь airflow (все контейнеры), например?
источник

KG

Konstantin Gopa in Airflow
Добрый день всем. В поиске по чатику не нашел. Если даги эирфлоу запускать в кубере, то сам эирфлоу в кубере тоже держать или лучше отдельно?
источник

AB

Aleksandr Borgardt in Airflow
Oleg Ilinsky
как-то так это выглядит
Крипово
источник

OI

Oleg Ilinsky in Airflow
Lexis
А не будет затупливать ран если во время задержки перезапуститься весь airflow (все контейнеры), например?
ну таск должен будет перейти в ретрай и запуститься заново
источник

E

Edya in Airflow
Привет! Где-нибудь можно включить чтобы логи тасков были отправлены в stdout?
источник

VS

Vladislav 👻 Shishkov... in Airflow
они и так отправляются туда, если мне не изменяет память
источник

E

Edya in Airflow
Не, туда уходят только логи скедулера
источник

VS

Vladislav 👻 Shishkov... in Airflow
а где смотрите?
источник

E

Edya in Airflow
в поде
источник

E

Edya in Airflow
Там фича в 1.10.12 - читает stdout выполняющегося пода (раньше не было при KubernetesExecutor)
источник

E

Edya in Airflow
у кого-нибудь есть рабочий пример logging_config_class ?
источник

VN

Vladimir Nazarov in Airflow
Всем привет! У меня таски дага запускаются только раз в минуту, хотя upstream всё выполнено.

Возможно как-то уменьшить этот интервал? По докам не нашёл
источник