Size: a a a

2020 May 21

GP

Grigory Pomadchin in Moscow Spark
Mi
Ещё может драйвер что-то считать, это на UI не отображается
+
источник

AC

Anton Chern in Moscow Spark
Mi
Ещё может драйвер что-то считать, это на UI не отображается
как драйвер проверить?
источник

M

Mi in Moscow Spark
Anton Chern
как драйвер проверить?
Код смотреть
источник

GP

Grigory Pomadchin in Moscow Spark
Тут они заняты
источник

GP

Grigory Pomadchin in Moscow Spark
у тебя акурат время гц это время твоего таймаута?
источник

GP

Grigory Pomadchin in Moscow Spark
Я вижу что у тебя нейтив метод аксессор; это жнай?
источник

M

Mi in Moscow Spark
Grigory Pomadchin
у тебя акурат время гц это время твоего таймаута?
Не, там же больше часа тайм-аут
источник

AC

Anton Chern in Moscow Spark
Grigory Pomadchin
у тебя акурат время гц это время твоего таймаута?
нет, 18 минут пишет, а таймаут час и десять минут
источник

M

Mi in Moscow Spark
Там наверняка потом драйвер на каком-нибудь коннекшоне засыпает
источник

M

Mi in Moscow Spark
Или ещё что
источник

GP

Grigory Pomadchin in Moscow Spark
Mi
Там наверняка потом драйвер на каком-нибудь коннекшоне засыпает
Ага
источник

GP

Grigory Pomadchin in Moscow Spark
или просто чето считает после каунта
источник

AC

Anton Chern in Moscow Spark
после каунта идёт подключение к различным источникам в hdfs и hive, затем join и запись на hdfs
источник

AC

Anton Chern in Moscow Spark
а логи вот так выглядят, в логах пустота
источник

AC

Anton Chern in Moscow Spark
Grigory Pomadchin
Я вижу что у тебя нейтив метод аксессор; это жнай?
вот тут не понял, если честно
источник

GP

Grigory Pomadchin in Moscow Spark
Anton Chern
вот тут не понял, если честно
Да ничо; на у драйвере у тебя проблема наверное; замени каунт числом любым и проверь сколько стартовать жоба будет
источник

M

Mi in Moscow Spark
Anton Chern
после каунта идёт подключение к различным источникам в hdfs и hive, затем join и запись на hdfs
А попробуй сделать подключения до каунта и посмотри что выйдет, вангую будет задержка до каунта теперь
источник

AC

Anton Chern in Moscow Spark
спасибо, попробую
источник

M

Mi in Moscow Spark
Опять же если это не средствами Спарка джоин, а чистый хайв, то конечно сам процесс тебе не будет отображаться
источник

ЕГ

Евгений Глотов... in Moscow Spark
Anton Chern
после каунта идёт подключение к различным источникам в hdfs и hive, затем join и запись на hdfs
Запрос может генерироваться всё это время?
источник