Size: a a a

2020 October 12

OI

Oleg Ilinsky in Airflow
Вопрос к тем, кто юзал KubernetesPodOperator
где там указывать token для service_account_name ? Чота в доках не могу найти
источник

A

Alex in Airflow
Anton Afonin
Сделать - то можно, но это не похоже на бэст-практис)
Такой подход у astronomer описан. Но мне тоже кажется что это не очень)
источник

АЖ

Андрей Жуков... in Airflow
Oleg Ilinsky
Вопрос к тем, кто юзал KubernetesPodOperator
где там указывать token для service_account_name ? Чота в доках не могу найти
В kube/config положить?
источник

OI

Oleg Ilinsky in Airflow
Андрей Жуков
В kube/config положить?
я ему явно указываю файлик с конфигом, ему чота вообще пофиг на него
источник

OI

Oleg Ilinsky in Airflow
config_file опция
можно попробовать и в .kube/config положить🤔
источник

AA

Anton Afonin in Airflow
Alex
Такой подход у astronomer описан. Но мне тоже кажется что это не очень)
А можно ссылку?
источник

A

Alex in Airflow
Anton Afonin
А можно ссылку?
источник

АЖ

Андрей Жуков... in Airflow
Так это все равно разные даги
источник

AA

Anton Afonin in Airflow
Может я плохо смотрю, но где там про разное расписание для тасков в одном даге?
источник

A

Alex in Airflow
Anton Afonin
Ну как бы расписание - свойство дага, соответственно, разное расписание - разные даги
я к этому сообщению отвечал)
источник

YL

Yevhenii Lukashov in Airflow
Ребята всем привет, кто то может скинуть какой-то свой полный Даг с пайтонсенсором, а то я что то врубится не могу.
источник

AA

Anton Afonin in Airflow
Alex
я к этому сообщению отвечал)
Так всё правильно, много дагов с одинаковым расписанием)
источник

A

Alex in Airflow
Anton Afonin
Так всё правильно, много дагов с одинаковым расписанием)
Т.е. если я просто создам под каждую группу тасок отдельный даг- это ок?
источник

AA

Anton Afonin in Airflow
Alex
Т.е. если я просто создам под каждую группу тасок отдельный даг- это ок?
Я не против)
На самом деле мне кажется, что в первую очередь нужно группировать логически, просто группировка по "всё, что нужно запускать раз в день" выглядит кривовато, хотя работать будет
источник

A

Alex in Airflow
Anton Afonin
Я не против)
На самом деле мне кажется, что в первую очередь нужно группировать логически, просто группировка по "всё, что нужно запускать раз в день" выглядит кривовато, хотя работать будет
Спасибо!
источник

Р

Роман in Airflow
Есть специалисты по работе с выгрузкой данных через API AMO CRM?
источник

ИХ

Ильяс Хакиев... in Airflow
Роман
Есть специалисты по работе с выгрузкой данных через API AMO CRM?
у нас техдир как-то года 2 назад связался с этой системой исплевался
источник

AN

Aleksey Nikolaev in Airflow
Alex
Ну, допустим когда одна таска должна запускаться раз в день, другая каждый час. Например, при репликации каких-нибудь таблиц.
Можно перед «суточной» веткой в даге поставить брэнч-оператор внутри которого навернуть любую логику которая будет решать идти в эту ветку или нет. Даг будет запускаться каждый час, но таски раз-в-сутки выполнятся только если брэнч скажет ок а остальное время скипаются. У нас так работает похожий комбайн из тасков ежедневных и еженедельных. Практика может не бэст, но провереная
источник

A

Alex in Airflow
Aleksey Nikolaev
Можно перед «суточной» веткой в даге поставить брэнч-оператор внутри которого навернуть любую логику которая будет решать идти в эту ветку или нет. Даг будет запускаться каждый час, но таски раз-в-сутки выполнятся только если брэнч скажет ок а остальное время скипаются. У нас так работает похожий комбайн из тасков ежедневных и еженедельных. Практика может не бэст, но провереная
спасибо!
источник

AA

Anton Afonin in Airflow
Тогда уж лучше несколько TimeDeltaSensor и от них все нужные таски
источник