Size: a a a

2020 August 31

ДН

Дмитрий Негреев... in Airflow
Wooo oood
Даги с башоперктором из стандартных примеров выполняются(запускал example_skip_dag), а те, что были созданы мной с pythonoperator меняют статус с scheduled на queued и обратно. Предлагаемые в  task instance details переменные изменены на очень большие, чтобы прям наверняка, но и это не дало результатов... Какие могут быть варианты?
Лебовски, где код?
источник

PA

Panchenko Andrey in Airflow
А можешь чуть ниже опустить а то не видно
источник

Р

Роман in Airflow
Ребята, как можно даг заставить работать по датам из массива? т.е. мне нужно обработать старые даты и они не упорядочены
источник

ДН

Дмитрий Негреев... in Airflow
Роман
Ребята, как можно даг заставить работать по датам из массива? т.е. мне нужно обработать старые даты и они не упорядочены
Backfill?
источник

Р

Роман in Airflow
🤷‍♂️
источник

C

Combot in Airflow
Total messages: 24333
источник

Wo

Wooo oood in Airflow
Дмитрий Негреев
Лебовски, где код?
Ссылку не даёт прикрепить... Скопипастить прям в чат? О_О
источник

ДН

Дмитрий Негреев... in Airflow
Wooo oood
Ссылку не даёт прикрепить... Скопипастить прям в чат? О_О
Ну, pastebin например
источник

Wo

Wooo oood in Airflow
Не даёт ссылку прикрепить к сообщению
источник

VN

Vova Narovchatskiy in Airflow
Всем привет!
Можно ли настроить использование sparksubmit operator-a без connection_id или придется кастомный оператор писать?
источник

С

Сюткин in Airflow
Wooo oood
Не даёт ссылку прикрепить к сообщению
Молодой еще,3 дня не прошло
источник

С

Сюткин in Airflow
Wooo oood:
там просто перекладываем из екселя в новый эксель, удаляя старые, чтобы сразу в директории видеть изминения https://ideone.com/YyiSX9
источник

ME

Max Efremov in Airflow
Vova Narovchatskiy
Всем привет!
Можно ли настроить использование sparksubmit operator-a без connection_id или придется кастомный оператор писать?
А к чему он будет подключаться, если не знает коннекта?
источник

ME

Max Efremov in Airflow
У нас спарк пайтон оператором запускается через livy)
источник

VN

Vova Narovchatskiy in Airflow
Max Efremov
А к чему он будет подключаться, если не знает коннекта?
А если задать параметры в options/conf?
источник

ME

Max Efremov in Airflow
Vova Narovchatskiy
А если задать параметры в options/conf?
а у него нет вроде параметра хоста, он из коннекта берёт это
источник

ME

Max Efremov in Airflow
источник

АС

Алексей Савельев... in Airflow
airflow живет в кубере, пока с внутренней бд, задача быстро сделать персистентное хранение. Решение - подмонтировать внешнюю папку в место хранения  данных. Подскажите, где по дефолту аирфлошный контейнер держит данные БД?
источник

VB

Vladimir Bazarevsky in Airflow
Тебе надо замаунтить хранилище постгреса
источник
2020 September 01

Wo

Wooo oood in Airflow
Сюткин
Wooo oood:
там просто перекладываем из екселя в новый эксель, удаляя старые, чтобы сразу в директории видеть изминения https://ideone.com/YyiSX9
Да, спасибо. То самое
источник