Size: a a a

Python для анализа данных

2021 August 31

А

Алексей in Python для анализа данных
скорее всего pandas что-то типа bulk insert делает, поэтому и такие траблы с текстовым полем
источник

А

Алексей in Python для анализа данных
или даже COPY
источник

AD

Andrew Dakhnovsky in Python для анализа данных
да вроде обычный инсерт она делает
https://github.com/sqlalchemy/sqlalchemy/issues/5038
источник

I

Igor in Python для анализа данных
pandas не делает вообще ничего. Он отдает словарь движку, который уже работает с ним
источник

А

Алексей in Python для анализа данных
ну движок разворачивает...разница невелика :)
источник

А

Алексей in Python для анализа данных
а тут не видно, как запрос делается...скорее всего не через pd.to_sql
источник
2021 September 01

R

Rustam in Python для анализа данных
Так проблема только в разделителе была?
если так то почему не попробовать разные ? например табуляцию '\t'
источник

R

Rustam in Python для анализа данных
источник

А

Алексей in Python для анализа данных
@RBulgakov что именно попробовать? :)
источник

R

Rustam in Python для анализа данных
Описанная тут проблема, мне думается нужно при отправке df в бд задать опцию для разделителя например \t если нужно то могу функцию для python сбросить
источник

А

Алексей in Python для анализа данных
где её задавать? :)
источник

А

Алексей in Python для анализа данных
нет в методе to_sql таких параметров
источник

R

Rustam in Python для анализа данных
а что у вас за БД ?
источник

А

Алексей in Python для анализа данных
vertica
источник

R

Rustam in Python для анализа данных
К сожалению не знаком с такой БД, но как вариант можно сохранить данные в csv, а уже файлом передать в БД.
Как показывает практика через файл все равно быстрей загружаются данные в БД
tmp_df = "./tmp_dataframe.csv"
df.to_csv(tmp_df, index=False, header=False, sep='\t')
где sep как раз параметр разделителя
источник

А

Алексей in Python для анализа данных
@RBulgakov я это всё прекрасно знаю :) Вопрос был про конкретную ситуацию и конкретную БД
источник

R

Rustam in Python для анализа данных
Возможно есть что то что поможет загрузить файл в данную БД через python, тут уже погуглить нужно, это самый примитивный и эффективный способ загрузки данных в БД, по этому он должен быть.
источник

А

Алексей in Python для анализа данных
у меня нет проблемы загрузить данные из файла :)))
источник

PZ

Pavel Zheltouhov in Python для анализа данных
слушайте, возвращаясь к вопросу построения визуализаций.

Какой из фреймворков позволяет выплевывать график в виде картинки, а потом выделять мышкой и пересчитывать показатели в области?
Мне просто кажется, что перегружать клиента рендером точек будет глупо. Heatmap, конечно, выход, но мне  нравится просто набор полупрозрачных точечек.
Кажется, что  не стоит нагружать десятком тысяч точек браузер клиента. Например, в altair есть лимит на 5000 точек и он же неспроста там есть.
Я посмотрел почти все любят рендерить на клиенте. Но неужели нет альтернативы?
источник

R

Rustam in Python для анализа данных
Вот тут что то похожие видел, сам пока не пробовал
https://tproger.ru/translations/python-data-vizualization/
источник