Size: a a a

2021 April 07

SC

Stanislav Chernov in Airflow
А вот тут посмотрите https://corecompete.com/scaling-out-airflow-with-celery-and-rabbitmq-to-orchestrate-etl-jobs-on-the-cloud/

Начиная со слов "UNDERSTANDING THE SCALABILITY PARAMETERS" ....
источник

SC

Stanislav Chernov in Airflow
кубер или докер ? - тут не подскажу ...
источник

DP

Dmitriy Pyrin in Airflow
да все я смог разобраться, там было все проще, 2 контейнера каким-то образом на одном порту
источник

DP

Dmitriy Pyrin in Airflow
не ожидал я такого от админов
источник

ME

Max Efremov in Airflow
а вебсервер можно скейлить разве?
источник

ME

Max Efremov in Airflow
я думал он и скедулер только 1 нода всегда в аирфлоу...
источник

A

Anton in Airflow
источник

ME

Max Efremov in Airflow
хм, любопытно, это когда высоконагруженный веб интерфейс и сотню юзеров к нему доступ получают?
источник

A

Anton in Airflow
Наверное, вот поэтому и обратился в чат чтобы понять как правильно это использовать.
источник

A

Anton in Airflow
Если я правильно понимаю, то при работе с LocalExecutor, задачи исполняет сам вебсервер, или шедулер в своих воркерах, а вот при Celelery это делают отдельные ноды. Но могу заблуждаться.
источник

A

Anton in Airflow
спасибо!
источник

AS

Andrey Smirnov in Airflow
всем привет, как остановить SparkOperator запускающий job в yarn?
перевод в состояние failed  в  ui не помогает
airflow 2.0.1
источник

Р

Руслан in Airflow
можно через yarn напрямую
источник

Р

Руслан in Airflow
yarn application kill ...
источник

AS

Andrey Smirnov in Airflow
не, это понятно, хочется через ui в airflow
источник

VS

Vladislav 👻 Shishkov... in Airflow
никак
источник

AS

Andrey Smirnov in Airflow
а почему, там же есть код на
def on_kill(self) -> None:
       """Kill Spark submit command"""
       self.log.debug("Kill Command is being called")
только в логах я не вижу его вызова
источник

VS

Vladislav 👻 Shishkov... in Airflow
что-то я не вижу такого кода там
источник

VS

Vladislav 👻 Shishkov... in Airflow
ага, нашел
источник

AS

Andrey Smirnov in Airflow
странно, не дает отправить ссылку на гитхаб
источник