Size: a a a

2021 March 18

K

KrivdaTheTriewe in Moscow Spark
Или докер образ
источник

K

KrivdaTheTriewe in Moscow Spark
Со спарком
источник

K

KrivdaTheTriewe in Moscow Spark
Он распределит джарники во времЯ старта по кластеру и отработает
источник

G

Gev in Moscow Spark
Я боюсь как юы еще что то переписывать не пришлось. Переход на новую версию - такое
источник

K

KrivdaTheTriewe in Moscow Spark
Gev
Я боюсь как юы еще что то переписывать не пришлось. Переход на новую версию - такое
Не должно
источник

K

KrivdaTheTriewe in Moscow Spark
Легаси формат для паркета добавь и все
источник

K

KrivdaTheTriewe in Moscow Spark
Конфигом
источник

G

Gev in Moscow Spark
Это для меня уже сложно. Да и для такой простой задачи тоже кажется овермного движения?
источник

K

KrivdaTheTriewe in Moscow Spark
Gev
Это для меня уже сложно. Да и для такой простой задачи тоже кажется овермного движения?
Ну мутить мувы тончо не оч простое решение
источник

K

KrivdaTheTriewe in Moscow Spark
Лучше уж тогда в цикле писать
источник

EC

Eugene Chipizubov in Moscow Spark
Gev
Это для меня уже сложно. Да и для такой простой задачи тоже кажется овермного движения?
Это разовая задача, не будет кейса с вложенными партициями?
источник

G

Gev in Moscow Spark
Понял. пошел циклы рисовать
источник

G

Gev in Moscow Spark
Нет не разовая.
источник

G

Gev in Moscow Spark
вложенных не будет
источник

EC

Eugene Chipizubov in Moscow Spark
ОйплЯ, тогда спарк hdfs api лучше использовать
источник

ПФ

Паша Финкельштейн... in Moscow Spark
KrivdaTheTriewe
Не должно
источник

K

KrivdaTheTriewe in Moscow Spark
Eugene Chipizubov
ОйплЯ, тогда спарк hdfs api лучше использовать
Можно мувнуть не то )
источник

ПФ

Паша Финкельштейн... in Moscow Spark
А есть вариант вычитать всё что нуна, заюнионить с новым данными и выплюнуть в новое место
источник

G

Gev in Moscow Spark
Паша Финкельштейн
А есть вариант вычитать всё что нуна, заюнионить с новым данными и выплюнуть в новое место
Все что нужно - очень большое.
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Gev
Все что нужно - очень большое.
мэпредьюсом тогда
источник