Size: a a a

2021 May 11

DP

Dmitriy Pyrin in Airflow
Всем привет, развернут airflow в  venv, либы все стоят. но он отказывается видеть psycopg2, и самое странное в логах webserver ошибок нет, все инициализируется нормально без ошибок, но в веб интерфейсе ошибка и сам даг не прогружается
источник

SZ

Sergey Zhuravlev in Airflow
Без ошибки сложно, но как вариант попробуйте заменить на https://pypi.org/project/psycopg2-binary/
источник

DP

Dmitriy Pyrin in Airflow
я ничего не понимаю, если реально снести psycopg2 то в логах видна ошибка
источник

DP

Dmitriy Pyrin in Airflow
источник

ME

Max Efremov in Airflow
некоторые ошибки могут кешироваться в UI и сами не уходить
источник

ME

Max Efremov in Airflow
если даги работают, можно из базы руками удалить такое
источник

DP

Dmitriy Pyrin in Airflow
в том то и дело что дага в списке нет
источник

ME

Max Efremov in Airflow
а если сделать питон и файлик дага в контейнере скедулера?
источник

ME

Max Efremov in Airflow
ошибок нет?
источник

DP

Dmitriy Pyrin in Airflow
это не контейнер, просто все либы из офф доки в венве
источник

DP

Dmitriy Pyrin in Airflow
если дернуть сам файлик ошибок нет
источник

DP

Dmitriy Pyrin in Airflow
а где ещё можно посмотреть логи?
источник

DP

Dmitriy Pyrin in Airflow
странно приподнял на другой венв все норм
источник

R

Roma Nikolaev in Airflow
Как обещал. Делюсь своим опытом)
DAG получает данные по api, трансформирует, сохраняет в excel через пандовский to_excel
Установил пакет openpyxl только в worker и больше никуда
Все сохранилось с первого раза, проблем не было.
Так что даже не знаю чем вам помочь
источник

ДЖ

Денис Жирнов... in Airflow
Вы устанавливали командой pip3 install openpyxl?
источник

R

Roma Nikolaev in Airflow
даже просто
pip install openpyxl
источник

R

Roma Nikolaev in Airflow
а вы через пандасовский  to_excel тоже сохраняете ?
источник

ДЖ

Денис Жирнов... in Airflow
Да
Причем, интересно, что перед этим он экселевский файл читает, а писать в него не желает.
источник

ДЖ

Денис Жирнов... in Airflow
А при чтении задействует тот же самый openpyxl
источник

R

Roma Nikolaev in Airflow
странно конечно,
честно не знаю
за год тыканья в пандас, ни разу с таким не сталкивался
источник