Size: a a a

2021 March 15

AS

Anton Solomonov in Moscow Spark
По логике получается так, но перед запись проверил что есть в записываемом датафрейм - он  наполнен данными ((
источник

AS

Anton Solomonov in Moscow Spark
Через Show проверял
источник

NN

No Name in Moscow Spark
Anton Solomonov
По логике получается так, но перед запись проверил что есть в записываемом датафрейм - он  наполнен данными ((
А сколько ключей в партиции?
источник

AB

Andrey Bel in Moscow Spark
оч странно
-Может нельзя сохранять в ту таблицу из которой производится чтение ?
такого вообще нет насколько я знаю -  можно прочитать, преобразовать и туда же перезаписать
источник

AS

Anton Solomonov in Moscow Spark
No Name
А сколько ключей в партиции?
Один ключ
источник

NN

No Name in Moscow Spark
Anton Solomonov
Один ключ
Хм
источник

AS

Anton Solomonov in Moscow Spark
Andrey Bel
оч странно
-Может нельзя сохранять в ту таблицу из которой производится чтение ?
такого вообще нет насколько я знаю -  можно прочитать, преобразовать и туда же перезаписать
Тогда странно что не перезаписывается
источник

NN

No Name in Moscow Spark
Andrey Bel
оч странно
-Может нельзя сохранять в ту таблицу из которой производится чтение ?
такого вообще нет насколько я знаю -  можно прочитать, преобразовать и туда же перезаписать
Ну хз, мне кажется, что план запроса может поломаться и произвести ересь. Я так не делаю никогда , например.
источник

AB

Andrey Bel in Moscow Spark
No Name
Ну хз, мне кажется, что план запроса может поломаться и произвести ересь. Я так не делаю никогда , например.
ну согласен кейс странный, какая то рекурсия получается постоянная если шедулить))
источник

AB

Andrey Bel in Moscow Spark
Anton Solomonov
Добрый вечер. Почему может быть такое:
я читаю таблицу1 из hive в датафрейм,
потом делаю union с другим датафреймом
и результат сохраняют в эту же таблицу1 с этой же партицией

В итоге партиция таблицы куда записываю обнуляется.

Может нельзя сохранять в ту таблицу из которой производится чтение ?
попробуйте рядом записать тестово
источник

AS

Anton Solomonov in Moscow Spark
Да, попробую в другую таблицу сохранить. Посмотрим что получится
источник

VS

Vladislav 👻 Shishkov... in Moscow Spark
Всем привет, подниму очень старый пост, вроде кто-то точно настраивал спаркмонитор, интересен вопрос, смог ли кто на master yarn завести его?
источник

VS

Vladislav 👻 Shishkov... in Moscow Spark
Переслано от Aleksandr Severinov
Привет! Кто-нибудь успешно настраивал sparkmonitor для jupyter? На гитхабе рабочие примеры для локального режима (хоть там и проблема с выбором порта, но хотя бы не падает), а для .setMaster("yarn") не удается прокинуть воркерам джарник с лиснером
источник

K

KrivdaTheTriewe in Moscow Spark
Vladislav 👻 Shishkov
Всем привет, подниму очень старый пост, вроде кто-то точно настраивал спаркмонитор, интересен вопрос, смог ли кто на master yarn завести его?
Скажи пожалуйста, а как сча джупитер поднят или цеппелин у вас ?
источник

VS

Vladislav 👻 Shishkov... in Moscow Spark
Все так же
источник
2021 March 16

A

Alex in Moscow Spark
Ilya Kozyrev
Привет! Возник вопрос загрузки данных из SAP BW, жуть проперитарная ещё та. Может у кого то был опыт такого взаимодействия? к HANA можно подцепиться через JDBC а вот с BW беда какая-то
привет! есть опыт работы с BW. может в чём-то смог бы помочь — напишите в личку
источник

НК

Николай Крупий... in Moscow Spark
Хитрые спамеры! 😄
источник

Oleg אולג in Moscow Spark
Оу
источник

С

Сюткин in Moscow Spark
Так в бигдату меня ещё никто не завлекал
источник

С

Сюткин in Moscow Spark
источник