Size: a a a

2018 February 26

KM

Kirill Malev in Moscow Spark
посмотрим
источник

KM

Kirill Malev in Moscow Spark
Kirill Malev
val some_var_as_df = some_var_not_as_df.map( v => v.split(";")).map( v => my_class_case_defined_outside_main(v(0), v(1).toLong, v(2).toLong, v(3).toLong, v.lift(4).getOrElse(null))).toDF
Это может быть из-за импортов кривых java.lang.NoSuchMethodError: scala.reflect.api.JavaUniverse.runtimeMirror(Ljava/lang/ClassLoader;)Lscala/reflect/api/JavaMirrors$JavaMirror; ?
источник

KM

Kirill Malev in Moscow Spark
больше внятных ошибок нет.
jar-ник на 168 мегабайт
источник

GP

Grigory Pomadchin in Moscow Spark
версия джавы совпадает с оверсией джавы на кластере?
источник

KM

Kirill Malev in Moscow Spark
$ java -version
openjdk version "1.8.0_151"
OpenJDK Runtime Environment (build 1.8.0_151-b12)
OpenJDK 64-Bit Server VM (build 25.151-b12, mixed mode)


vs

$ java -version

java version "1.8.0_131"
Java(TM) SE Runtime Environment (build 1.8.0_131-b11)
Java HotSpot(TM) 64-Bit Server VM (build 25.131-b11, mixed mode)


Только не говорите, что
источник

GP

Grigory Pomadchin in Moscow Spark
а когда спарк шелл запускал какая там версия скалы была?
источник

GP

Grigory Pomadchin in Moscow Spark
ну прост такая ошибка обычно вылезает когда 2.10 с 2.11 миксуют
источник

GP

Grigory Pomadchin in Moscow Spark
источник

GP

Grigory Pomadchin in Moscow Spark
^ как пример
источник

KM

Kirill Malev in Moscow Spark
Grigory Pomadchin
а когда спарк шелл запускал какая там версия скалы была?
build собрал в директорию 2.10
источник

GP

Grigory Pomadchin in Moscow Spark
ну вот и ответ
источник

GP

Grigory Pomadchin in Moscow Spark
а билд сбт какой?
источник

GP

Grigory Pomadchin in Moscow Spark
ну странно
источник

GP

Grigory Pomadchin in Moscow Spark
что туда
источник

GP

Grigory Pomadchin in Moscow Spark
видимо или не тот билд сбт или ты не релоаднул процесс чтоб тот подвхатил изменения
источник

KM

Kirill Malev in Moscow Spark
я сейчас на мастере поставил скалу
источник

KM

Kirill Malev in Moscow Spark
попробуй на нём собрать
источник

KM

Kirill Malev in Moscow Spark
Grigory Pomadchin
видимо или не тот билд сбт или ты не релоаднул процесс чтоб тот подвхатил изменения
а какой релоадить?
источник

KM

Kirill Malev in Moscow Spark
Grigory Pomadchin
попробуй почисть билд сбт

https://pastebin.com/CGWtT2hG

и провайдед скоуп я убрал, что бы если что видеть все косяки либ
Вот этот взял
источник

GP

Grigory Pomadchin in Moscow Spark
ну или ctrl + c и сбт заново
ну или reload
источник