Size: a a a

2020 July 08

ПФ

Паша Финкельштейн... in Moscow Spark
Salam andra
--packages ?
да!
источник

G

Gev in Moscow Spark
А точно… надо двигаться в этом направлении 🙂
источник

ME

Mikhail Epikhin in Moscow Spark
Чат, а кто-то уже реализовывал external shuffle service для spark?
источник

ME

Mikhail Epikhin in Moscow Spark
Ну из вас, что у гугла есть я знаю;)
источник

G

Gev in Moscow Spark
Паша Финкельштейн
Другими словами не меняются имена — используются закешированные либы
Переименование не помогает
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Gev
Переименование не помогает
а вот теперь интересно. А что у тебя в логах хадупа? Он там листинг файлов должен делать
источник

G

Gev in Moscow Spark
ок, буду посмотреть
источник

G

Gev in Moscow Spark
в заголовке написал warning: skip remote jar и перечислил все jar что я ему прописал плюс основной
источник

ПФ

Паша Финкельштейн... in Moscow Spark
то есть подтягивает правильные джарники?
источник

ПФ

Паша Финкельштейн... in Moscow Spark
А откуда тогда идея что он подтягивает неправильные?
источник

G

Gev in Moscow Spark
ошибка та же что и до изменений (как мне кажется)
Меня теперь смущает -  skip remote jar -так он их подключил или скипнул - не понятно
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Gev
ошибка та же что и до изменений (как мне кажется)
Меня теперь смущает -  skip remote jar -так он их подключил или скипнул - не понятно
деплой мод кластер и мастер ярн выставлены же?
источник

G

Gev in Moscow Spark
ога
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Gev
ога
а попробуй закинуть свои джарники на хдфс и в jars указать пути к ним на hdfs
источник

G

Gev in Moscow Spark
так я так и делаю
источник

ПФ

Паша Финкельштейн... in Moscow Spark
а тогда давай наоброт попробуем — джарники забрать локально, и указать пути до них
источник

G

Gev in Moscow Spark
идея - попробую
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Gev
так я так и делаю
этого, кстати, нигде написано не было )))
источник

G

Gev in Moscow Spark
сорри
источник

G

Gev in Moscow Spark
Я думал это по умолчанию предполагается 🙂
источник