Size: a a a

2020 July 03

ME

Max Efremov in Airflow
да, это уже есть. Он ждёт, пока прошлый отработает и не начинает. Но когда прошлый в середине фейлится, начинает следующий выполнять
источник

ME

Max Efremov in Airflow
Подскажите, а как секьюрно хранить подключение airflow к базе? Не хочется прямо строку подключения с паролем писать в конфиге
источник

ME

Max Efremov in Airflow
Хотя, наверное, через AIRFLOW__CORE__SQL_ALCHEMY_CONN можно попробовать
источник

СВ

Сергей Волков... in Airflow
всем привет. ребят а возможно сделать в одном dag-е две параллельные ветки, одна будет идти по одному расписанию: вторая по другому?
источник

С

Сюткин in Airflow
Сергей Волков
всем привет. ребят а возможно сделать в одном dag-е две параллельные ветки, одна будет идти по одному расписанию: вторая по другому?
Branchoperator с запуском каждый день к примеру
источник

С

Сюткин in Airflow
Если 1 число то ветка А
Если 2 число то ветка Б
источник

СВ

Сергей Волков... in Airflow
Сюткин
Branchoperator с запуском каждый день к примеру
спасибо. попробую
источник

M

Mikhail in Airflow
коллеги, а кто как обновляет код дагов, когда всё в контейнерах и celeryexecutor?
у меня пока такое видение:
1. послать SIGTERM воркерам
2. подождать пока они доделают работу и самоубьются
3. обновить шедулер (по идее он не должен ничего шедулить, пока нет воркеров)
4. обновить веб-интерфейс
5. запустить новые версии воркеров
источник

SG

Sergey Gavrilov in Airflow
Mikhail
коллеги, а кто как обновляет код дагов, когда всё в контейнерах и celeryexecutor?
у меня пока такое видение:
1. послать SIGTERM воркерам
2. подождать пока они доделают работу и самоубьются
3. обновить шедулер (по идее он не должен ничего шедулить, пока нет воркеров)
4. обновить веб-интерфейс
5. запустить новые версии воркеров
Обычно просто вбрасываю новый код поверх старого
источник

M

Mikhail in Airflow
там кубер, совсем трудно будет где-то код хранить и его подменять
источник

M

Mikhail in Airflow
ну и некрасиво это, контейнеры они immutable все дела
источник

SG

Sergey Gavrilov in Airflow
Ну как бы очень редко нужно что-то делать с контейнером после апдейта
источник

SG

Sergey Gavrilov in Airflow
В гитлабе воркеры отлично могут подменять старый код во всех случаях, кроме оных
источник
2020 July 04

ДН

Дмитрий Негреев... in Airflow
подскажите, а старт задачек через CLI как-то отличается, если настроен Celery?
В дефолтном пукелевском контейнере пытаюсь в контейнере с шедулером через airflow test ... запустить таск, и он пытается что-то в SQLite писать
источник

ДН

Дмитрий Негреев... in Airflow
Смотрю логи шедулера, когда через webui стартую, но там только инфа о том, что задача в очередь брокеру ушла
а в логах веб сервера все видимо через api запускается
источник

SG

Sergey Gavrilov in Airflow
Дмитрий Негреев
подскажите, а старт задачек через CLI как-то отличается, если настроен Celery?
В дефолтном пукелевском контейнере пытаюсь в контейнере с шедулером через airflow test ... запустить таск, и он пытается что-то в SQLite писать
Да, вам надо пробросить в энвайронменте коннекшон пробросить к используемой базе
источник
2020 July 06

C

Combot in Airflow
Добро пожаловать в самое дружелюбное комьюнити.
источник

BB

Bral Bral in Airflow
Rbac + ldap в 1.10.10 без танцев с бубном ( заменой webserver.py и прочее ) включается ? Толково не нашел, все что-то правят , куда - то лезут и тд.
источник

VS

Vladislav 👻 Shishkov... in Airflow
Без webserver rbac на фласке не включить. Это не танцы с бубном, это нормальная практика
источник

BB

Bral Bral in Airflow
Vladislav 👻 Shishkov
Без webserver rbac на фласке не включить. Это не танцы с бубном, это нормальная практика
Ну как это не включить, если мне не пришлось ничего менять / дописывать, а использовался обычный пукельский образ. Обошелся всего env переменными .
источник