Всем привет. Никто не сталкивался с проблемой, при включении нескольких дагов падает шедулер, с разными ошибками, есть подозрение что какая-то проблема с пулами при подключении к БД. Ошибки такие: sqlalchemy.exc.OperationalError: (psycopg2.OperationalError) SSL SYSCALL error: EOF detected sqlalchemy.exc.DatabaseError: (psycopg2.DatabaseError) SSL error: sslv3 alert bad record mac sqlalchemy.exc.DatabaseError: (psycopg2.DatabaseError) server closed the connection unexpectedly This probably means the server terminated abnormally before or while processing the request.
Не совсем понял суть вопроса, это постгря с базой airflow. Падает при какой-то определенной итерации выполнения тасков, при включении нескольких дагов одновременно.
копайте в настройки, где используется ssl и отключайте обновите openssl у постгреса есть опция в строке подключения для отключения ssl, можно попробовать её, но сомневаюсь
Не совсем понял суть вопроса, это постгря с базой airflow. Падает при какой-то определенной итерации выполнения тасков, при включении нескольких дагов одновременно.
я бы посмотрела максимальное количество подключений для постгри с базой airflow и количество подключений, которые открывает шедулер
копайте в настройки, где используется ssl и отключайте обновите openssl у постгреса есть опция в строке подключения для отключения ssl, можно попробовать её, но сомневаюсь
ssl в конфиге вроде везде отключен, не уверен что с ним проблема, так как падает только при превышении определенного количества операций к базе, и не все ошибки на ssl ругаются
ssl в конфиге вроде везде отключен, не уверен что с ним проблема, так как падает только при превышении определенного количества операций к базе, и не все ошибки на ssl ругаются
Выпадает одна из этих ошибок, чаще всего первая sqlalchemy.exc.DatabaseError: (psycopg2.DatabaseError) server closed the connection unexpectedly This probably means the server terminated abnormally before or while processing the request. sqlalchemy.exc.OperationalError: (psycopg2.OperationalError) SSL SYSCALL error: EOF detected sqlalchemy.exc.DatabaseError: (psycopg2.DatabaseError) SSL error: sslv3 alert bad record mac
Всем привет! Есть в Airflow возможность централизованно хранить параметры расписания DAG'ов (start_date, schedule_interval)? В идеале, чтобы это хранилище не запрашивать каждый heartbeat?
Всем привет! Есть в Airflow возможность централизованно хранить параметры расписания DAG'ов (start_date, schedule_interval)? В идеале, чтобы это хранилище не запрашивать каждый heartbeat?
Файлы с дагами импортятся в соответствии с poll_interval