Size: a a a

2020 December 10

PA

Panchenko Andrey in Airflow
хотя зачему тут вообще пайтон если он у вас в докере закрыт как сервис?
источник

MS

Maria Sokolova in Airflow
Никита
Всем привет.
Никто не сталкивался с проблемой, при включении нескольких дагов падает шедулер, с разными ошибками, есть подозрение что какая-то проблема с пулами при подключении к БД.
Ошибки такие:
sqlalchemy.exc.OperationalError: (psycopg2.OperationalError) SSL SYSCALL error: EOF detected
sqlalchemy.exc.DatabaseError: (psycopg2.DatabaseError) SSL error: sslv3 alert bad record mac
sqlalchemy.exc.DatabaseError: (psycopg2.DatabaseError) server closed the connection unexpectedly
       This probably means the server terminated abnormally
       before or while processing the request.

Postgres 10.15 локально
Airflow в докере:
Ubunthu 14.04
Python 2.7.6
Airflow 1.9.0
SQLAlchemy 1.3.20
psycopg2 2.6.1
это ошибка при подключении к бэкэндному постгре ?
источник

Н

Никита in Airflow
Panchenko Andrey
хотя зачему тут вообще пайтон если он у вас в докере закрыт как сервис?
Это пакеты, которые стоят в образе
источник

Н

Никита in Airflow
Maria Sokolova
это ошибка при подключении к бэкэндному постгре ?
Не совсем понял суть вопроса, это постгря с базой airflow.
Падает при какой-то определенной итерации выполнения тасков, при включении нескольких дагов одновременно.
источник

VS

Vladislav 👻 Shishkov... in Airflow
беглый гугл говорит, что проблема явно не в airflow и скорее всего даже не в postgres
источник

VS

Vladislav 👻 Shishkov... in Airflow
копайте в настройки, где используется ssl и отключайте
обновите openssl
у постгреса есть опция в строке подключения для отключения ssl, можно попробовать её, но сомневаюсь
источник

MS

Maria Sokolova in Airflow
Никита
Не совсем понял суть вопроса, это постгря с базой airflow.
Падает при какой-то определенной итерации выполнения тасков, при включении нескольких дагов одновременно.
я бы посмотрела максимальное количество подключений для постгри с базой airflow и количество подключений, которые открывает шедулер
источник

VS

Vladislav 👻 Shishkov... in Airflow
ах да, ещ посмотреть на либу в питоне для работы с ssl, там какой-то пакет надо ставить
источник

N

Nik in Airflow
народ, напомните. есть дефолтный samba ридер?
источник

N

Nik in Airflow
я вижу хук только на запись (может плохо смотрю)
источник

Н

Никита in Airflow
Vladislav 👻 Shishkov
копайте в настройки, где используется ssl и отключайте
обновите openssl
у постгреса есть опция в строке подключения для отключения ssl, можно попробовать её, но сомневаюсь
ssl в конфиге вроде везде отключен, не уверен что с ним проблема, так как падает только при превышении определенного количества операций к базе, и не все ошибки на ssl ругаются
источник

Н

Никита in Airflow
Maria Sokolova
я бы посмотрела максимальное количество подключений для постгри с базой airflow и количество подключений, которые открывает шедулер
А как посмотреть количество подключений от шедулера?
источник

VS

Vladislav 👻 Shishkov... in Airflow
Никита
ssl в конфиге вроде везде отключен, не уверен что с ним проблема, так как падает только при превышении определенного количества операций к базе, и не все ошибки на ssl ругаются
что значит не все, если вы ше все
источник

MS

Maria Sokolova in Airflow
Никита
А как посмотреть количество подключений от шедулера?
я вот так смотрю
state_pid=docker inspect --f '{{.State.Pid}}' имя_контейнера_с_шедулером
sudo nsenter -t $state_pid -n netstat
источник

MS

Maria Sokolova in Airflow
Maria Sokolova
я вот так смотрю
state_pid=docker inspect --f '{{.State.Pid}}' имя_контейнера_с_шедулером
sudo nsenter -t $state_pid -n netstat
*-f вместо —f
источник

Н

Никита in Airflow
Vladislav 👻 Shishkov
что значит не все, если вы ше все
Выпадает одна из этих ошибок, чаще всего первая
sqlalchemy.exc.DatabaseError: (psycopg2.DatabaseError) server closed the connection unexpectedly
       This probably means the server terminated abnormally
       before or while processing the request.
sqlalchemy.exc.OperationalError: (psycopg2.OperationalError) SSL SYSCALL error: EOF detected
sqlalchemy.exc.DatabaseError: (psycopg2.DatabaseError) SSL error: sslv3 alert bad record mac
источник

AB

Alexey Bedrintsev in Airflow
Всем привет!
Есть в Airflow возможность централизованно хранить параметры расписания DAG'ов (start_date, schedule_interval)?
В идеале, чтобы это хранилище не запрашивать каждый heartbeat?
источник

GB

Georgy Borodin in Airflow
Alexey Bedrintsev
Всем привет!
Есть в Airflow возможность централизованно хранить параметры расписания DAG'ов (start_date, schedule_interval)?
В идеале, чтобы это хранилище не запрашивать каждый heartbeat?
Файлы с дагами импортятся в соответствии с poll_interval
источник

GB

Georgy Borodin in Airflow
В любом случае что бы то ни было – каждый раз оно будет дёргаться
источник
2020 December 11

ME

Max Efremov in Airflow
У меня сегодня завалился сабдаг, внутри него вот такая странная штука висит:
источник