Size: a a a

2021 March 14

М

Михаил in Airflow
Адиль
набросал хэндлер с фильтром, который ловит сообщения с текстом Rows affected из лога и сохраняет в XCom: https://gist.github.com/adilkhash/7ac372554a33867effc8cc900b9a56d7
тестировал на airflow 2.0 с LocalExecutor и PostgresOperator.
Класс, посмотрел бегло, попробую на дня прикрутить
источник

А

Адиль in Airflow
Михаил
Не в моменте, для логирование, сколько и каких записей пришло
тогда мой вариант должен помочь
источник

А

Анастасия in Airflow
Привет!
Я столкнулась с тем, что баш скрипт работает в баш операторе, но не работает в сенсоре - пишет, что в баш сенсоре нет jq:
» line 16: jq: command not found
Это можно как-то исправить?
источник
2021 March 15

GB

Georgy Borodin in Airflow
Анастасия
Привет!
Я столкнулась с тем, что баш скрипт работает в баш операторе, но не работает в сенсоре - пишет, что в баш сенсоре нет jq:
» line 16: jq: command not found
Это можно как-то исправить?
Поставить jq, всё довольно логично)
источник

А

Анастасия in Airflow
Georgy Borodin
Поставить jq, всё довольно логично)
Разве возможно, чтобы оно стояло для баш оператора, но не стояло для сенсора?)
источник

ME

Max Efremov in Airflow
А какой экзекутор?
источник

GB

Georgy Borodin in Airflow
Анастасия
Разве возможно, чтобы оно стояло для баш оператора, но не стояло для сенсора?)
Ну я не могу сванговать, как у вас так всё развёрнуто)
Но я уверен, что если у вас airflow в докере, то достаточно добавить установку jq в докерфайл
источник

GB

Georgy Borodin in Airflow
Ну а вообще, дело может быть в path. Попробуйте полный путь до jq указать в команде сенсора
источник

M

Mikhail in Airflow
есть еще вероятность, что на одном воркере установлен jq, а на другом нет
источник

M

Mikhail in Airflow
и это всё никак не связано с тем, сенсор это или обычный оператор
источник

ME

Max Efremov in Airflow
Mikhail
есть еще вероятность, что на одном воркере установлен jq, а на другом нет
Я тоже про это подумал, но без информации об установке этого не узнать
источник

SP

Sergey Postanogov in Airflow
источник

A

A.K in Airflow
Здравствуйте
источник

A

A.K in Airflow
я тут новичок
источник

A

A.K in Airflow
хотела спросить, airflow можно ли интегрировать с grafana?
источник

A

A.K in Airflow
и в линукс устанавливается ?
источник

A

A.K in Airflow
как я поняла, airflow сможет автоматизировать повторяющий процесс загрузки файлов в базу данных?
источник

A

A.K in Airflow
A.K
хотела спросить, airflow можно ли интегрировать с grafana?
или в airflow тоже можно визуализировать данные так же как и в графане, но уже с автоматизацией ?
источник

P

Pavel in Airflow
A.K
как я поняла, airflow сможет автоматизировать повторяющий процесс загрузки файлов в базу данных?
Да
источник

P

Pavel in Airflow
A.K
хотела спросить, airflow можно ли интегрировать с grafana?
Да
источник