Size: a a a

2020 November 25

AT

Al T in Airflow
ну масштабируемость и производительность это и есть поддержка, плюс новые версии, бакапы метадата базы...
источник

VS

Vladislav 👻 Shishkov... in Airflow
И ручные правки в базе
источник

VS

Vladislav 👻 Shishkov... in Airflow
И готовые пресеты удивляют, 250 дагов на 2 ядра и 2 гига - это прям лол кек чебурек...
источник

AT

Al T in Airflow
ну воркеры же автоскейлятся.. просто как минимум всегда придется платить за один воркер
источник

ME

Max Efremov in Airflow
Vladislav 👻 Shishkov
Что-то по статье ничего не увидел, кроме того, что вот вам готовый пресет airflow
интеграция с aws, как я понял
источник

ME

Max Efremov in Airflow
логи будут в клаудвотче, нативные триггеры EMR, Glue и прочего
источник

VS

Vladislav 👻 Shishkov... in Airflow
Al T
ну воркеры же автоскейлятся.. просто как минимум всегда придется платить за один воркер
дорого выходит, с такими маленькими инстансами заводить 100500 воркеров
источник

ME

Max Efremov in Airflow
Al T
ну воркеры же автоскейлятся.. просто как минимум всегда придется платить за один воркер
хм, у меня сейчас тупо 3 воркера для селери заведены)
источник

VS

Vladislav 👻 Shishkov... in Airflow
и опять таки, не понятно условие скейлинга
источник

VS

Vladislav 👻 Shishkov... in Airflow
если они поднимают воркеры просто из-за моргания очереди - то это ппц 🙈
источник

ME

Max Efremov in Airflow
там встроенный воркер есть)
источник

ME

Max Efremov in Airflow
1 бесплатно)
источник

AT

Al T in Airflow
ну я и имел это ввиду (что 1 воркер входит в стоимость)
источник

P

Pavel in Airflow
ага. судя по всему, тоже жесткая привязка к ветке гита есть
источник

PA

Panchenko Andrey in Airflow
В кдауд билд есть настройка ветки, можно в любую
источник
2020 November 26

ДН

Дмитрий Негреев... in Airflow
Подскажите плиз, можно как-то быстро создать все даграны нового дага как выполненные, когда catchup = true?
И возможна ли жизнь externaltasksensor, когда catchup = false? Не пойму как в этом случае должна восстановится связь между дагами, если какой-то дагран может потенциально не существовать
источник

А

Антон in Airflow
старт дейт поставить поближе
источник

А

Антон in Airflow
или в базе апдейтнуть
источник

GB

Georgy Borodin in Airflow
Всем привет!
Кто-нибудь уже попробовал AWS-managed Airflow?
источник

PA

Panchenko Andrey in Airflow
Georgy Borodin
Всем привет!
Кто-нибудь уже попробовал AWS-managed Airflow?
токма гугловый(
источник