Size: a a a

2021 May 18

ИК

Иван Кретинин... in Airflow
Действительно, почему то том не монтируется к worker-поду
источник

ИК

Иван Кретинин... in Airflow
Спасибо вам большое за помощь!
источник

OI

Oleg Ilinsky in Airflow
источник

AP

Anton Patsev in Airflow
Коллеги, подскажите, установил airflow в k8s, запустил example_kubernetes_executor.py через web интерфейс.

    one_task = PythonOperator(
       task_id="one_task",
       python_callable=print_stuff,
       executor_config={"KubernetesExecutor": {"image": "airflow/ci:latest"}},
   )

почему
one_task
выполнился? ведь
{"image": "airflow/ci:latest"}
не существует? его нет на dockerhub.
источник

ОМ

Ольга Мальцева... in Airflow
Коллеги, день добрый. Может кто уже решал такую проблему. Разворачиваем при каждом запуске ДАГа свежий под, на этапе клонирования с гита etl-сборок периодически падает, есть необходимость повторять попытки если получаем определенные типы ошибок. Суть вопроса. Как засунуть в XCOM признак того что грохнулось клонирование одной etl-сборки, если для него это только набор башевских команд?
через перенаправление вывода в ключ /airflow/xcom/return.json пробовала - не взлетело

Может я не туда смотрю, и эта проблема по другому должна решаться
источник

AM

Aliaksandr Mihailovi... in Airflow
Добрый день))     def extract_issues(issues):
       print(issues)
       return issue.id

   issue_search = {
       "jql_str": "project=PFA",
       "maxResults": 100,
   }
   search_jira_issue = JiraOperator(
       task_id='search_jira_issue',
       jira_conn_id='jira_connect',
       jira_method='search_issues',
       jira_method_args=issue_search,
       result_processor=extract_issues
   )

   ERROR - Jira operator error: extract_issues() takes 1 positional argument but 2 were given
источник

AM

Aliaksandr Mihailovi... in Airflow
Что то совсем...
источник

🍒

🍒 in Airflow
Метод extract_issues должен принимать в аргументы context, jira_result
источник

🍒

🍒 in Airflow
два аргумента
источник

AM

Aliaksandr Mihailovi... in Airflow
А как это?? ))
источник

🍒

🍒 in Airflow
Ну вот так)
 if self.result_processor:
               return self.result_processor(context, jira_result)
источник

🍒

🍒 in Airflow
источник

AM

Aliaksandr Mihailovi... in Airflow
Огромное спасибо))
источник

Н

Николай in Airflow
коллеги подскажите - даг отрабатывает - в sql скрипте ошибка - но оператор всё равно заканчивается успешно, хотя исключений никаких не ловится
источник

ME

Max Efremov in Airflow
Хм, а можно триггернуть даг с тем же временем выполнения, какой уже есть?
источник

ME

Max Efremov in Airflow
мне нужно его перезапустить по сути за этот же день через TriggerDagRunOperator
источник

ФЧ

Филипп Чистяков... in Airflow
Вот тут выше переписку глянь
источник

ФЧ

Филипп Чистяков... in Airflow
👆
источник

ME

Max Efremov in Airflow
Спасибо!
источник

ME

Max Efremov in Airflow
Хм, это не совсем то, это когда таску запустили, а надо попозже её пустить)
источник