Size: a a a

2020 December 29

А

Андрей in Airflow
Пандас и так через алхимию заливает же. Там просто из коробки есть нарезка на батчи.
источник

А

Андрей in Airflow
Может и в алхимии есть. Наверное плохо искал.
источник

SG

Sergey Gavrilov in Airflow
Андрей
Всем добрый вечер. Кто может подсказать какой пакет python лучше использовать для пакетной вставки строк в таблицу приемник? pandas? Что-то еще есть?
Без особой разницы, все дело лишь в настройках.
Настоящий перформанс появляется, когда вы перестаёте использовать инсёрты
источник

А

Андрей in Airflow
Sergey Gavrilov
Без особой разницы, все дело лишь в настройках.
Настоящий перформанс появляется, когда вы перестаёте использовать инсёрты
для постгри COPY
источник

VR

Vadim Rufov in Airflow
Андрей
Всем добрый вечер. Кто может подсказать какой пакет python лучше использовать для пакетной вставки строк в таблицу приемник? pandas? Что-то еще есть?
нативный sql через драйвер ))))))
источник

VR

Vadim Rufov in Airflow
а, это было, да?
источник

А

Андрей in Airflow
Vadim Rufov
нативный sql через драйвер ))))))
А вы в своих джобах аирфлоу сами так данные перекидываете между базами? 🤔
источник

VR

Vadim Rufov in Airflow
Андрей
А вы в своих джобах аирфлоу сами так данные перекидываете между базами? 🤔
Ну, вопрос был не про джобы в айрфлоу и передачей информации между базами)))
источник

А

Андрей in Airflow
Vadim Rufov
Ну, вопрос был не про джобы в айрфлоу и передачей информации между базами)))
В контексте аирфлоу
источник

VR

Vadim Rufov in Airflow
Андрей
В контексте аирфлоу
Есть задача. В ней питон, в ней данные, есть таблица, в которую данные положить. Айрфлоу тут вообще никакого контекста не имеет
источник

А

Андрей in Airflow
Vadim Rufov
Есть задача. В ней питон, в ней данные, есть таблица, в которую данные положить. Айрфлоу тут вообще никакого контекста не имеет
Аирфлоу тут имеет контекст такой, что в этом чатике сидят люди которые перекладывают данные. С помощью него конечно.
источник

VR

Vadim Rufov in Airflow
Давайте лучше силы для разведения дискуссий переведем в другое русло, например, в гуглеж)))
источник

А

Андрей in Airflow
Vadim Rufov
Давайте лучше силы для разведения дискуссий переведем в другое русло, например, в гуглеж)))
Лучше закончим.
источник

C

Combot in Airflow
Добро пожаловать в самое дружелюбное комьюнити.
источник
2020 December 30

P

Pavel in Airflow
Антон
Sql alchemy
Nooooooo😳
источник

P

Pavel in Airflow
Андрей
Всем добрый вечер. Кто может подсказать какой пакет python лучше использовать для пакетной вставки строк в таблицу приемник? pandas? Что-то еще есть?
Используйте, например, этот:
pip install vertica-python
источник

MV

Maxim Vigovsky in Airflow
Андрей
Всем добрый вечер. Кто может подсказать какой пакет python лучше использовать для пакетной вставки строк в таблицу приемник? pandas? Что-то еще есть?
Peewee
источник

А

Андрей in Airflow
Спасибо посмотрю. Но я так думаю лучше pandas не найти. Он и на один инсерт нарежет данные и через copy можно вставлять.
источник

MV

Maxim Vigovsky in Airflow
источник

MV

Maxim Vigovsky in Airflow
Можно посмотреть функции chunked и insert_many, возможно подойдут
источник