Size: a a a

2021 February 17

IK

Ivan Kolemasov in Airflow
Max Efremov
третий? 3.6+?
да
источник

ME

Max Efremov in Airflow
тогда не должен ругаться на f строки)
источник

IK

Ivan Kolemasov in Airflow
Max Efremov
тогда не должен ругаться на f строки)
так в этом и суть баттхерта
источник

ME

Max Efremov in Airflow
можно попробовать вывести в лог инфу о питоне, путь там, версию, либы и сравнить
источник

ME

Max Efremov in Airflow
мне кажется там разные питоны
источник

ME

Max Efremov in Airflow
и в этом проблема
источник

IK

Ivan Kolemasov in Airflow
@Gurlich  что думаешь?)
источник

➔m

➔◾ maria myznikova... in Airflow
А что значит “синтаксическая ошибка на уровне f-string в коде” — он не пишет, какая конкретно?
источник

IK

Ivan Kolemasov in Airflow
➔◾ maria myznikova
А что значит “синтаксическая ошибка на уровне f-string в коде” — он не пишет, какая конкретно?
источник

➔m

➔◾ maria myznikova... in Airflow
Так у вас не с f строкой проблема.
источник

➔m

➔◾ maria myznikova... in Airflow
Может, где-то в строку что-то интерполировалось не то и она закрылась раньше времени или скобка съехала по какой-то другой причине
источник

➔m

➔◾ maria myznikova... in Airflow
Нет, вы правы, прошу прощения
источник

➔m

➔◾ maria myznikova... in Airflow
На старом питоне без поддержки f-строк так и выглядит
источник

IK

Ivan Kolemasov in Airflow
а может просто несколько spark-submit`ов ...
источник

ME

Max Efremov in Airflow
➔◾ maria myznikova
Может, где-то в строку что-то интерполировалось не то и она закрылась раньше времени или скобка съехала по какой-то другой причине
оно не может выйти, всё что внутри - строка
источник

➔m

➔◾ maria myznikova... in Airflow
Max Efremov
оно не может выйти, всё что внутри - строка
Да, тоже верно)
источник

IK

Ivan Kolemasov in Airflow
если вывести env в терминале и bash-operator`ом из-под ДАГа - то они разные,  скорее этого не должно быть

во втором случае не пробрасывается
PYSPARK_PYTHON и PYSPARK_DRIVER_PYTHON
источник

IK

Ivan Kolemasov in Airflow
ничего не понятно, буду разбираться)
источник

IK

Ivan Kolemasov in Airflow
Ivan Kolemasov
ничего не понятно, буду разбираться)
перезагрузка аирфлоу (чтобы переменные окружения подтягивались) + spark-submit "/.../file.py" (кавычки) => заработало
источник

➔m

➔◾ maria myznikova... in Airflow
А кто-то использовал инлеты/аутлеты? Чем они вообще полезны? А то я прочла о них в доке, но с ходу не поняла, как это работает и чем полезно
источник