Size: a a a

2021 April 07

EK

Egor Klimov in Airflow
Не знаю как S3 обеспечивает версионирование из коробки, гляну, спасибо
источник

EK

Egor Klimov in Airflow
Я сейчас в своих кубах запускаю через чарт от astronomer, но я видел как это сделано в гугл клауде и aws, кажется, что эту тулу можно и с ними интегрировать, чтобы легко закидывать даги и таски в их S3
источник

EK

Egor Klimov in Airflow
Не знал, что там можно легкое версионирование сделать
источник

SC

Stanislav Chernov in Airflow
А кто-то реализовывал загрузку DAG из git силами самого af ? можете dag прислать ?
источник

SK

Sergej Kutepov in Airflow
Тоже интересно.
Гугл предлагает дергать гит через cron
источник

EK

Egor Klimov in Airflow
Думаю можно bashoperator заюзать, который будет делать git clone в airflow home (скорее всего при условии что home смотрит на шару)
источник

VS

Vladislav 👻 Shishkov... in Airflow
Никто не чувствует деадлок и рекурсию?
источник

SC

Stanislav Chernov in Airflow
Я так и собирался, через башоператор
источник

SC

Stanislav Chernov in Airflow
Просто, чтоб самому не писать, мб кто поделится)
источник

VS

Vladislav 👻 Shishkov... in Airflow
А зачем так делать то? Если у вас кубер, то там есть опция, если кубера нет, то не проще ли нормальный ci/cd прикрутить?
источник

SK

Sergej Kutepov in Airflow
Есть пример как его реализовать без кубера?
источник

VS

Vladislav 👻 Shishkov... in Airflow
А в чем проблема, взять даги из гита и положить на хосты?
источник

SC

Stanislav Chernov in Airflow
У меня standalone сервер
источник

SC

Stanislav Chernov in Airflow
Руками каждый раз?
источник

DM

Dan M. in Airflow
напиши даг, который будет пулить репу
источник

SC

Stanislav Chernov in Airflow
Я напишу, просто спросил мб есть у кого, чтобы не писать... Зайцем проехать не получилось 😂
источник

A

Alex in Airflow
в gitlab кладем, ci/cd и подъем докера со всеми дагами внутри
источник

SC

Stanislav Chernov in Airflow
И прикручивать ci/cd для одной баш команды... Сомнительно
источник

SC

Stanislav Chernov in Airflow
У меня не докер, не кубер
источник

A

Alex in Airflow
прочитал, ага, это так, для статистики)
источник