Size: a a a

2021 May 20

AA

Anton Afonin in Airflow
Подразумевается файл airflow.cfg
Мне кажется, что тут скорее вопрос, кто разворачивал аирфлоу и кто его будет поддерживать
источник

АВ

Александр Витковский... in Airflow
В airflow.cfg внесены все изменения, что указаны в ошибках, но от этого ничего не поменялось 🤷‍♂️
источник

ММ

Максим Мартынов... in Airflow
путь к файлу правильный?
источник

ME

Max Efremov in Airflow
это же не ошибки
источник

ME

Max Efremov in Airflow
просто предупреждение, что в будущих версиях может поломаться кое-что)
источник

АВ

Александр Витковский... in Airflow
вроде правильный, это случилось внезапно, вдруг перестал загружаться webserver (пропало соединение), при повторной загрузке вебсервера - [2021-05-20 23:56:31 +0300] [16468] [INFO] Starting gunicorn 19.10.0
[2021-05-20 23:56:31 +0300] [16468] [ERROR] Connection in use: ('0.0.0.0', 8080)
источник

ММ

Максим Мартынов... in Airflow
ну так ошибка то не в этом, а в том, что порт 8080 уже занят каким-то другим процессом
источник
2021 May 21

ММ

Максим Мартынов... in Airflow
смотри через ss -tulpn | grep 8080 кто его занял
источник

MF

Mihail F in Airflow
Всем привет!
Как изменить логирование airflow?
Сейчас ставлю тупо принты и на все пишет [2021-04-22 09:49:04,960] {logging_mixin.py:104} INFO
Как вызвать например WARNING?
источник

A

Alex in Airflow
logging.warning('message') ?
источник

SZ

Sergey Zhuravlev in Airflow
Помогите разобраться плиз. Есть простейший даг в котором 4 таски, все PythonOperator. Что то вчера изменил и все, теперь ошибка импорта DAG,
 File "/opt/airflow/dags/operatedb_pipeline.py", line 44, in <module>
   dt_searcher >> files_landing
TypeError: unsupported operand type(s) for >>: 'tuple' and 'tuple'
источник

ME

Max Efremov in Airflow
значит там не операторы)
источник

A

Alex in Airflow
выглядит так, что вы пытаетесь сделать граф из туплов вместо задач
источник

SZ

Sergey Zhuravlev in Airflow
Ну вот так выглядит:

with DAG(
       "operatedb_upload_files",
       default_args=default_args,
       schedule_interval="@once",
       tags=['Загрузка в оперативную БД'],
) as dag:
   dt_searcher = PythonOperator(
       task_id="dt_searcher_task",
       python_callable=datalake_searcher,
   ),
   files_landing = PythonOperator(
       task_id="files_landing_task",
       python_callable=binary_landing,
       provide_context=True,
   )
источник

ММ

Максим Мартынов... in Airflow
запятая между операторами лишняя
источник

SZ

Sergey Zhuravlev in Airflow
Блиин...точно. Вот это значит пора спать. Спасибо огромное)
источник

m

mkalinin in Airflow
Всем привет. Airflow 1.14 executor k8s
Если таски крутятся в подах и вкл remote logging s3, то лог покажется в UI Airflow только по завершении таска.
Кто какое решение использует, чтоб смотреть лог таска в рантайме?
Вручную зайти на под и открыть лог можно, но это не решение
источник

PA

Panchenko Andrey in Airflow
так Аирфлоу разве показывает в каком либо другом экзекьюторе логи во время рантайма?
источник

PA

Panchenko Andrey in Airflow
у меня селери и так же вижу логи только после окончания таски
источник

VS

Vladislav 👻 Shishkov... in Airflow
показывает
источник