Size: a a a

2020 May 27

ПФ

Паша Финкельштейн... in Moscow Spark
потому что см. мою заметку на notion
источник

GP

Grigory Pomadchin in Moscow Spark
яж так понимаю ты пытаешься научить работать :?
источник

GP

Grigory Pomadchin in Moscow Spark
ну короч ты просто глину месишь) нет красивого решения у тебя
источник

GP

Grigory Pomadchin in Moscow Spark
и его не будет
источник

ПФ

Паша Финкельштейн... in Moscow Spark
кодоген работает так, что если у тебя на входе объект был null — то дальше уже ничего проверяться не будет
источник

GP

Grigory Pomadchin in Moscow Spark
оно все будет уродское
источник

ПФ

Паша Финкельштейн... in Moscow Spark
см. мою заметочку на notion
источник

GP

Grigory Pomadchin in Moscow Spark
Паша Финкельштейн
Спарк сам говорит "юзайте java.lang.Integer если нужно наллабилити"
а чо как в жаве работает Array(1, null, 3).toDS?
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Grigory Pomadchin
а чо как в жаве работает Array(1, null, 3).toDS?
без понятия, у меня нет джава спарка
источник

ПФ

Паша Финкельштейн... in Moscow Spark
и я его не умею
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Ну то есть я наверное могу разобраться, но не сейчас
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Паша Финкельштейн
кодоген работает так, что если у тебя на входе объект был null — то дальше уже ничего проверяться не будет
вот мне вот это кажется жутко бажным потому что это не обязательное условие!
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Более того, как извстно если отключить wholestage кодоген — всё работает корректно
источник

GP

Grigory Pomadchin in Moscow Spark
Паша Финкельштейн
Более того, как извстно если отключить wholestage кодоген — всё работает корректно
да; интересно кстати где баг
в хол стейдж кодагене или нет
источник

GP

Grigory Pomadchin in Moscow Spark
а ты не списывался еще с мейнтенерами разве?
источник

GP

Grigory Pomadchin in Moscow Spark
вдруг пару лидов тебе вбросят
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Вообще я всё надеялся что это у меня руки кривые, а н ебаг в кодогене
источник

AS

Andrey Smirnov in Moscow Spark
Паша Финкельштейн
теперь более сложный пример
case class Person(name:String)
case class PersonWithAge(name: String, age: Int)

Seq(Person("a")).toDS().joinWith(Seq(PersonWithAge("b",3)), col("name"))
.select(_.2.col("age"))
.as[Int]
.show()
в цеппелине отработал этот пример, показал null
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Andrey Smirnov
в цеппелине отработал этот пример, показал null
но как если кодеков ля null нету? @pomadchin
источник

GP

Grigory Pomadchin in Moscow Spark
Паша Финкельштейн
но как если кодеков ля null нету? @pomadchin
тут кодеки не причем
источник