Size: a a a

2021 January 12

SG

Sergey Gavrilov in Airflow
Nikita Blagodarnyy
Всем привет. Подскажите, пожалуйста, может уже есть какой-то FAQ/common problems? Не нашел в описании чата. Я, наверное, не первый сталкиваюсь с тем, что очень много тасок повисает в статусе queued. Может уже известно как лечить?
Спасибо.
Со временем рассасывается? А вообще, идея, конечно, хорошая, но проблема в том, что вопросы, по которым можно FAQ составить, достаточно тупые. Сколько-нибудь сложные требуют общения.
источник

SG

Sergey Gavrilov in Airflow
...а с тупыми вопросами работать никому не охота)
источник

N

Nikita Blagodarnyy in Airflow
Sergey Zhuravlev
Может глупый вопрос, но вы Celery используете?
Да. Сейчас воткнули worker_autoscale побольше, кажется, стало рассасываться.
источник

Н

Николай in Airflow
Коллеги, простой вопрос, как использовать локальные package в dag
источник

Н

Николай in Airflow
?
источник

Н

Николай in Airflow
Или какие ключевые слова для поиска?
источник

マサ

マキシム サモイロフ... in Airflow
Так же как и обычные, наверное. А какая проблема возникает при использовании?
источник

Н

Николай in Airflow
Даг не может импортировать пакет
источник

マサ

マキシム サモイロフ... in Airflow
bad for him
кусок кода нерабочего бы не помешал. мы у себя используем, проблем не встречали
источник

マサ

マキシム サモイロフ... in Airflow
хотя бы структуру файлов и как импортировать пытаетесь
источник

Н

Николай in Airflow
Сек
источник

Н

Николай in Airflow
Может пути какие прописать нужно..
источник

Н

Николай in Airflow
Dag/pbi_dag/pkg1
источник

Н

Николай in Airflow
Тут пакет, а сами даги на уровень выше
источник

Н

Николай in Airflow
Когда это всё кучей лежало в dag/ нормально было всё
источник

マサ

マキシム サモイロフ... in Airflow
к примеру, у вас есть общая папка с дагами, и в ней внутри рядом лежат нужные пакеты. импортируете просто по полному пути начиная от корня папки с дагами
источник

マサ

マキシム サモイロフ... in Airflow
в разных папках не будет работать, увы
источник

マサ

マキシム サモイロフ... in Airflow
нужно чтобы весь ваш код лежал внутри папки с дагами, иначе никак
источник

Т

Тимур in Airflow
Николай
Когда это всё кучей лежало в dag/ нормально было всё
Можно воспользоваться хаком и прописать директорию в sys path.

import sys
sys.path.insert(0,os.path.abspath(os.path.dirname(__file__)))

from pbi_dag.pkg1 import foo
источник

J

Jester in Airflow
Привет всем. Только начал разбираться с докер образами и возник такой вопрос: А кто как поднимает контейнеры Airfllow, указывая чистый image: apache/airflow:version или используя python-slim и мультибилд?
источник