Size: a a a

2020 October 13

SG

Sergey Gavrilov in Airflow
L-dar
Буду весьма благодарен
Я тут по счастливой слуайности пример композ-окружения недавно в репозитории собрал:
https://github.com/Newander/sample_for_jetbrains_error_2899470

А пример конфигурации запуска добавил. Засовывается в project/.idea/runConfiguration
источник

А

Антон in Airflow
Всем привет! Ребят, есть у кого опыт поднятия airflow за проксёй? У меня на данный момент следующая проблема: при обращении к гую пишет
Bad Request
Contradictory scheme headers
источник

AA

Anton Afonin in Airflow
L-dar
не с докерами комфортнее, не хочу сейчас все тащить со всеми зависимостями  на свой локальный пк
Виртуальное окружение изолирует пакеты, но тут уж как хочется
источник

D

Dmitry in Airflow
Всем привет! Есть ли тут кто-то, кто эксплуатирует Airflow на одной ноде с LocalExecutor? Вопросы следующие:
1. Наблюдаете ли вы "синхронное" выполнение задач? То есть если есть какой-то даг с очень долгими тасками, то пока не закончится долгий таск, другие таски не ставятся в очередь и не запускаются.
2. Можете посмотреть логи вашего шедулера - нет ли там перезапусков? Наш шедулер оформлен сервисом на убунте и, судя по логам, он раз в несколько часов сам перезапускается. Нормально ли это?
источник

OI

Oleg Ilinsky in Airflow
Бывает так, что приходит ООМ и прибивает шедулер. Вообще, это нехорошо, особенно с учётом LocalExecutor, т.к. прибиваются и все таски, которые в этот момент работают.
источник

D

Dmitry in Airflow
Таски работающие продолжают работать при этом, что странно..
источник

D

Dmitry in Airflow
Oleg Ilinsky
Бывает так, что приходит ООМ и прибивает шедулер. Вообще, это нехорошо, особенно с учётом LocalExecutor, т.к. прибиваются и все таски, которые в этот момент работают.
А как определить, что это OOM? Он в syslog пишет что-нибудь перед этим? По мониторингу на сервере ещё много свободной памяти..
источник

OI

Oleg Ilinsky in Airflow
Dmitry
А как определить, что это OOM? Он в syslog пишет что-нибудь перед этим? По мониторингу на сервере ещё много свободной памяти..
да, в syslog должен писать. Если памяти много, то не оно, скорее всего
источник

D

Dmitry in Airflow
В syslog ничего подозрительного не вижу..
источник

AA

Anton Afonin in Airflow
Dmitry
Всем привет! Есть ли тут кто-то, кто эксплуатирует Airflow на одной ноде с LocalExecutor? Вопросы следующие:
1. Наблюдаете ли вы "синхронное" выполнение задач? То есть если есть какой-то даг с очень долгими тасками, то пока не закончится долгий таск, другие таски не ставятся в очередь и не запускаются.
2. Можете посмотреть логи вашего шедулера - нет ли там перезапусков? Наш шедулер оформлен сервисом на убунте и, судя по логам, он раз в несколько часов сам перезапускается. Нормально ли это?
1 - нет, всё ок
2 - вроде не замечен
источник

D

Dmitry in Airflow
Anton Afonin
1 - нет, всё ок
2 - вроде не замечен
А вот такие сообщения не появляются? А как установлен Airflow - внутри venv или system-wide? Airflow устанавливался руками или через какие-то докер-образы или Ansible-плейбуки?
источник

AA

Anton Afonin in Airflow
Dmitry
А вот такие сообщения не появляются? А как установлен Airflow - внутри venv или system-wide? Airflow устанавливался руками или через какие-то докер-образы или Ansible-плейбуки?
нет, venv, руками
источник

AA

Anton Afonin in Airflow
Поначалу были такие сообщения, но после перезапуска перестали появляться, решили, что дело в сети до базы метаданных (mysql)
источник

D

Dmitry in Airflow
хм.. спасибо, буду ковырять логи дальше
источник

AA

Anton Afonin in Airflow
но у нас и нагрузка совсем небольшая
источник

D

Dmitry in Airflow
Anton Afonin
но у нас и нагрузка совсем небольшая
ну а есть таски, длительность которых измеряется часами?
источник

AA

Anton Afonin in Airflow
Dmitry
ну а есть таски, длительность которых измеряется часами?
источник

AA

Anton Afonin in Airflow
Буквально все остальные за это время пробегают
источник

D

Dmitry in Airflow
интересно, что же у нас не так сконфигурено..
источник

I

Igor in Airflow
источник