Size: a a a

2020 September 04

DZ

Dmitry Zuev in Moscow Spark
рибяты ну вы чо
источник

AC

Anton Chern in Moscow Spark
Dmitry Zuev
java.net.UnknownHostException: path
ай, точно😆
источник

AC

Anton Chern in Moscow Spark
А ошибка py4j.protocol.Py4JJavaError: An error occurred while calling o141.load.
: java.sql.SQLException: No suitable driver на что может указывать кроме неподходящей версии драйвера?
источник

GP

Grigory Pomadchin in Moscow Spark
Anton Chern
А ошибка py4j.protocol.Py4JJavaError: An error occurred while calling o141.load.
: java.sql.SQLException: No suitable driver на что может указывать кроме неподходящей версии драйвера?
что драйвера нет в принципе
источник

AC

Anton Chern in Moscow Spark
если 205 килобайт для него - норма, то он есть
источник

GP

Grigory Pomadchin in Moscow Spark
значит не видит его
источник

GP

Grigory Pomadchin in Moscow Spark
Попробуй классооаднуть его
источник

AC

Anton Chern in Moscow Spark
Grigory Pomadchin
Попробуй классооаднуть его
не понял, что с ним делать?
источник

GP

Grigory Pomadchin in Moscow Spark
Anton Chern
не понял, что с ним делать?
подгрузи его, проверь что он и правда в класспасе
источник

SE

Stanislav Evstratov in Moscow Spark
Ребят, подскажите пожалуйста как распарсить файлик типа json в jsone
источник

PK

Pavel Klemenkov in Moscow Spark
Stanislav Evstratov
Ребят, подскажите пожалуйста как распарсить файлик типа json в jsone
Не понял
источник

SE

Stanislav Evstratov in Moscow Spark
Ну вот у меня на локальной машине лежит файлик на 3 мб с расширением json, а в нем n jsonov
источник

PK

Pavel Klemenkov in Moscow Spark
Stanislav Evstratov
Ну вот у меня на локальной машине лежит файлик на 3 мб с расширением json, а в нем n jsonov
Он невалидный получается?
источник

T

T in Moscow Spark
Stanislav Evstratov
Ну вот у меня на локальной машине лежит файлик на 3 мб с расширением json, а в нем n jsonov
spark.read
 .option("multiLine", true).option("mode", "PERMISSIVE")
источник

SE

Stanislav Evstratov in Moscow Spark
А если у вложенных в json json'ов схемы различаются
источник

AS

Andrey Smirnov in Moscow Spark
Pavel Klemenkov
Он невалидный получается?
почему не валидный, каждая строчка отдельный json, с этим спарк на ура справляется
источник

PK

Pavel Klemenkov in Moscow Spark
Andrey Smirnov
почему не валидный, каждая строчка отдельный json, с этим спарк на ура справляется
Да, понял. Остался вопрос со схемой
источник

AS

Andrey Smirnov in Moscow Spark
Stanislav Evstratov
А если у вложенных в json json'ов схемы различаются
делай мега схему :)
источник

AS

Andrey Smirnov in Moscow Spark
Stanislav Evstratov
А если у вложенных в json json'ов схемы различаются
или как предложили читай один и тот же файл с разными схемами и потом объединяй (option("mode", "DROPMALFORMED"))
источник

PK

Pavel Klemenkov in Moscow Spark
Друзья мои, планируем Moscow Spark #10 в онлайне. Поэтому прошу всех потенциальных докладчиков ещё раз стукнуться мне в личку.
источник