Size: a a a

2020 October 19

А

Антон in Airflow
Всем привет! Подскажите пожалуйста, каким образом можно перенести Connections и Variables c одного Airflow на другой (с дева на прод, к примеру)?
источник

VS

Vladislav 👻 Shishkov... in Airflow
Антон
Всем привет! Подскажите пожалуйста, каким образом можно перенести Connections и Variables c одного Airflow на другой (с дева на прод, к примеру)?
это все в базе хранится
источник

Н

Никита in Airflow
Broken DAG: [airflow/dags/ETL_loader.py] Could not deserialize key data.
С чем это может быть связано ?
источник

Н

Никита in Airflow
Мб у меня переменные не передаются ?
источник

Н

Никита in Airflow
нашёл ошибку, не актуально
источник

VN

Vova Narovchatskiy in Airflow
Всем привет!
С чем может быть связана ошибка?
Не работает web ui

airflow error - exception on /admin/ [get]
.....
File "/opt/cloudera/parcels/AIRFLOW-1.10.3-python2.7.15_b2/lib/python2.7/site-packages/    sqlalchemy/sql/sqltypes.py", line 1651, in process
   return loads(value)
ValueError: unsupported pickle protocol: 4
источник
2020 October 20

I

Igor in Airflow
Vova Narovchatskiy
Всем привет!
С чем может быть связана ошибка?
Не работает web ui

airflow error - exception on /admin/ [get]
.....
File "/opt/cloudera/parcels/AIRFLOW-1.10.3-python2.7.15_b2/lib/python2.7/site-packages/    sqlalchemy/sql/sqltypes.py", line 1651, in process
   return loads(value)
ValueError: unsupported pickle protocol: 4
Бросается в глаза очень плохая версия питона

Но мжно руками попробовать понизить версию sqlachemy, авось прокатит
источник

ME

Max Efremov in Airflow
А airflow вообще с 2.х работает?
источник

ME

Max Efremov in Airflow
Я думал там только 3.х)
источник

I

Igor in Airflow
Стейбл на 2.7 должен работать

А тут к тому же поставка внутри клаудеры похоже, там вообще всякое может быть
источник

VN

Vova Narovchatskiy in Airflow
Да как я понял косяк с версией. Pickle протокол 4 версии только в 3 питоне поддерживается.
источник

VN

Vova Narovchatskiy in Airflow
Но в терминале работает airflow. Только в web ui падает
источник

VN

Vova Narovchatskiy in Airflow
Igor
Бросается в глаза очень плохая версия питона

Но мжно руками попробовать понизить версию sqlachemy, авось прокатит
да там не только на sqlachemy ругается
источник

VN

Vova Narovchatskiy in Airflow
Может существуют способы как-то понизить версию pickle протокола до 2.
источник

I

Igor in Airflow
Конечно есть, например пройтись по коду sed-ом
источник

I

Igor in Airflow
источник

VN

Vova Narovchatskiy in Airflow
А можно конкретнее что почитать?
источник

I

Igor in Airflow
Окей гугл как поставить третий питон
источник

I

Igor in Airflow
Реально, скорее всего проблемы на исправлении в коде версии протокола пикла только начнутся а не закончатся
источник

VN

Vova Narovchatskiy in Airflow
Не было бы проблем, но этот же airflow под клаудерой
источник