Size: a a a

2020 May 31

GP

Grigory Pomadchin in Moscow Spark
эт да поэтому это не актуально уже
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Я слишком молод и только в докладах их видел :)
источник

N

Nikolay in Moscow Spark
Крио же не используется обычно. Обычно просто из имплиситов берутся для наследников продукта декодеры .
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Nikolay
Крио же не используется обычно. Обычно просто из имплиситов берутся для наследников продукта декодеры .
Ещё описаны специальные случаи для мап, массивов, коллекций, юдфок и опшнала
источник

N

Nikolay in Moscow Spark
Крио можно для df, если явно создать имплисит самому
источник

GP

Grigory Pomadchin in Moscow Spark
Nikolay
Крио же не используется обычно. Обычно просто из имплиситов берутся для наследников продукта декодеры .
я про датанод трансфер
когда флажочек в конфиге спарка включаешь что хочешь использовать крио
источник

GP

Grigory Pomadchin in Moscow Spark
и тыкаешь на регистр со спарко крио кодеками
источник

GP

Grigory Pomadchin in Moscow Spark
"spark.kryo.registrator" * зовется
источник

ПФ

Паша Финкельштейн... in Moscow Spark
А, ещё для кейс-классов описан специальный случай, оно не всегда как продукт работает
источник

ПФ

Паша Финкельштейн... in Moscow Spark
О, кстати, спарковый сериалайзер для скалы не может рекурсивные типы, а мы в некотором плане можем, но можно всё сломать :)
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Ну как всё - можно обмануть и получить stackoverflow
источник

N

Nikolay in Moscow Spark
Паша Финкельштейн
А, ещё для кейс-классов описан специальный случай, оно не всегда как продукт работает
для какого случая ? какой пример нужно сделать, чтобы не как для продакт он искался?
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Nikolay
для какого случая ? какой пример нужно сделать, чтобы не как для продакт он искался?
Попробуй дженерик класс с 10 аргументами (вероятно не кейс)
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Все поля в конструкторе, ясное дело
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Сейчас дойду посмотрю
источник

N

Nikolay in Moscow Spark
Для некейс классов он не выведет вообще
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Ща
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Nikolay
Для некейс классов он не выведет вообще
источник
2020 June 01

N

Nikolay in Moscow Spark
Да, это интересный случай. "Стандартными" энкодерами в этот кусок кода не попасть. я про то, что если использовать уже готовые имплиситы из SQLImplicits такие как newProductEncoder. А для всех кейс классов мы "стандартно" попадем в serializerForType все-таки только через newProductEncoder. Т.е другой пути через уже готовые имплиситы для case class туда нет- только через энкодер для наследников Product .А сам serializerForType строит не энкодер, а только его часть - сериалайзер.
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Nikolay
Да, это интересный случай. "Стандартными" энкодерами в этот кусок кода не попасть. я про то, что если использовать уже готовые имплиситы из SQLImplicits такие как newProductEncoder. А для всех кейс классов мы "стандартно" попадем в serializerForType все-таки только через newProductEncoder. Т.е другой пути через уже готовые имплиситы для case class туда нет- только через энкодер для наследников Product .А сам serializerForType строит не энкодер, а только его часть - сериалайзер.
Попасть, там есть пример на скале от меня
источник