Size: a a a

2021 May 24

z

zxyzxy in Airflow
priority_weight аргумент называется
источник

ФЧ

Филипп Чистяков... in Airflow
Попробую переформулировать.

У меня есть 15 тасков, я хочу чтобы одновременно было запушенно не более 5, при этом, я хочу чтобы определенная часть выполнялась раньше чем другая
источник

z

zxyzxy in Airflow
что бы не более чем n выполнялось одновременно нужно сделать pool
источник

ФЧ

Филипп Чистяков... in Airflow
Во! Вроде оно. Спасибо
источник

ME

Max Efremov in Airflow
пулы
источник

VS

Vladislav 👻 Shishkov... in Airflow
Через пул такие мелочи лучше не делать, микроменджемент слишком
источник

z

zxyzxy in Airflow
а как?
источник

z

zxyzxy in Airflow
колхозить уровни в даге, где на каждом уровне по 5 тасок?
источник

z

zxyzxy in Airflow
:)
источник

VS

Vladislav 👻 Shishkov... in Airflow
concurrency = 5
источник

VS

Vladislav 👻 Shishkov... in Airflow
Просто нужен был приоритет
источник

z

zxyzxy in Airflow
А для каких вещей вы тогда используете пулы? Ну кроме явного ограничение на подключение к бд и тд, чтобы это не показалось микроменеджментом?
источник

VS

Vladislav 👻 Shishkov... in Airflow
Когда надо пачки дагов группировать
источник

z

zxyzxy in Airflow
Типа когда генерятся куча дагов с разными параметрами какой-то фабрикой? И что там пулы разруливают?
источник

z

zxyzxy in Airflow
(я вообще без претензий спрашиваю,  просто интересно как вы их используете у себя)
источник

ME

Max Efremov in Airflow
пулы могут на кучу дагов ресурс шарить
источник

z

zxyzxy in Airflow
ну да, я понимаю что это не внутри одного дага )
источник

ME

Max Efremov in Airflow
тип чтобы не более 10 спарк тасок на весь кластер
источник

z

zxyzxy in Airflow
тоесть все-таки в бОльшей степени как ограничение на одновременное количество подключений к ресурсу
источник

VS

Vladislav 👻 Shishkov... in Airflow
Необязательно ограничений
источник