Size: a a a

2020 July 13

AM

Aлексей Mатюхин... in Airflow
описание есть только у моего дага и у одного дефолтного(кот. для примера)
источник

E

Edya in Airflow
Aлексей Mатюхин
Я вручную обновил, поставил вместо нулов пустые строки, через 3 секунды, все вернулось на место.
У вас в самом файле дага description = None?
источник

AM

Aлексей Mатюхин... in Airflow
with DAG(dag_id='Classified',
        schedule_interval="0 * * * *",
        default_args=def_args,
        start_date=datetime(2020, 2, 20),
        description='DAG load',
        catchup=False) as dag:
   dag.doc_md = """
               Downloading data from Kafka """
источник

E

Edya in Airflow
А если убрать description и. Doc_md?
источник

M

Mikhail in Airflow
а вернулось на всех вообще?
источник

AM

Aлексей Mатюхин... in Airflow
Mikhail
а вернулось на всех вообще?
ага))) Я даже пробовал сначала им присвоить всем какой то текст. И все вернулось. Опять с описанием стали только 2 дага
источник

AM

Aлексей Mатюхин... in Airflow
Edya
А если убрать description и. Doc_md?
Пробовал вообще без дагов эирфлоу запускать с нуля.
источник

M

Mikhail in Airflow
а какая версия?
источник

M

Mikhail in Airflow
airflow
источник

AM

Aлексей Mатюхин... in Airflow
Version Info
Version : 1.10.10
Git Version : Not Available
источник

AM

Aлексей Mатюхин... in Airflow
Точно такая же версия стоит на сервере и там все хорошо.
источник

AM

Aлексей Mатюхин... in Airflow
А локально вот такое случилось.
источник

M

Mikhail in Airflow
может какой-нибудь старый неубитый шедулер ходит в ту же базу метаданных?
источник

M

Mikhail in Airflow
проверьте локально контейнеры всякие и тд
источник

AM

Aлексей Mатюхин... in Airflow
Да я вроде заново поднимаю все контейнеры.
источник

AM

Aлексей Mатюхин... in Airflow
Но возможно. Поробую посмотреть, спасибо!
источник
2020 July 14

AA

Anton Afonin in Airflow
Anton Afonin
А ни у кого на 1.10.10 не было проблем с  Mysql с записью в служебную табличку после завершения таска? У меня в bash operator`е команда отрабатывает успешно и падает с ошибкой
[2020-07-13 10:26:41,063] {bash_operator.py:130} INFO - Command exited with return code 0
[2020-07-13 10:27:32,681] {taskinstance.py:1145} ERROR - (_mysql_exceptions.OperationalError) (1205, 'Lock wait timeout exceeded; try restarting transaction')
[SQL: INSERT INTO rendered_task_instance_fields (dag_id, task_id, execution_date, rendered_fields) VALUES (%s, %s, %s, %s)]
Если вдруг кому интересно - косяк с модулем renderedtifields.py, который работает с табличкой rendered_task_instance_fields. После всяких операций типа update, delete, etc. нет коммитов и, видимо, из-за этого табличка лочится при одновременном обращении к ней разными тасками.
источник

AA

Anton Afonin in Airflow
Вылечили самым продвинутым способом -
store_serialized_dags = False
источник

AE

Alexandr Eliseev in Airflow
Привет! Сегодня в 19:00 по Москве буду делать доклад на Airflow Summit про надёжность данных и опыт внедрения эирфлоу в Райке. Основная секция вопросов будет в Слаке Эирфлоу на английском, но готов буду поотвечать на вопросы в этом чате на русском. Так что меншените меня или можете писать в личку, могу поделиться опытом.

Похоже, из-за того, что раньше не писал, ссылку на секцию и на трансляцию оставить я не могу 🙂
источник

С

Сюткин in Airflow
Alexandr Eliseev
Привет! Сегодня в 19:00 по Москве буду делать доклад на Airflow Summit про надёжность данных и опыт внедрения эирфлоу в Райке. Основная секция вопросов будет в Слаке Эирфлоу на английском, но готов буду поотвечать на вопросы в этом чате на русском. Так что меншените меня или можете писать в личку, могу поделиться опытом.

Похоже, из-за того, что раньше не писал, ссылку на секцию и на трансляцию оставить я не могу 🙂
Скинь в личку,закреплю
источник