Size: a a a

2020 June 16

ПФ

Паша Финкельштейн... in Moscow Spark
Nikolay
Это место на диски или в памяти ?
на диске, конечно
источник

ПФ

Паша Финкельштейн... in Moscow Spark
хотя в памяти тоже потенциально — cache это же MEMORY_AND_DISK
источник

GP

Grigory Pomadchin in Moscow Spark
сатанисты любят персистить (неважно где) а потом кластер умирает изза того что они зачемто все заперсистили
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Grigory Pomadchin
сатанисты любят персистить (неважно где) а потом кластер умирает изза того что они зачемто все заперсистили
Ну они просто анперсист забывают делать
источник

N

Nikolay in Moscow Spark
Умирает из за чего?
источник

GP

Grigory Pomadchin in Moscow Spark
Паша Финкельштейн
Ну они просто анперсист забывают делать
ну не в анперсисте дело)
источник

GP

Grigory Pomadchin in Moscow Spark
Nikolay
Умирает из за чего?
оом или дисковые или по памяти
источник

GP

Grigory Pomadchin in Moscow Spark
персист увеличивает потребление памяти
источник

ПФ

Паша Финкельштейн... in Moscow Spark
А, они в смысле вообще всё персистят?
источник

GP

Grigory Pomadchin in Moscow Spark
Паша Финкельштейн
А, они в смысле вообще всё персистят?
ну да; классика ж
источник

N

Nikolay in Moscow Spark
По  oom он не должен умирать
источник

GP

Grigory Pomadchin in Moscow Spark
бездумный персист как панацея для ускорения операций
источник

GP

Grigory Pomadchin in Moscow Spark
Nikolay
По  oom он не должен умирать
ну просто не выполняются стейджи нет памяти для послед шагов
источник

N

Nikolay in Moscow Spark
Он вытеснять память будет
источник

GP

Grigory Pomadchin in Moscow Spark
нет
источник

N

Nikolay in Moscow Spark
Это память storage. Cache в памяти который вытесняется ,если новый нужен
источник

GP

Grigory Pomadchin in Moscow Spark
))) ты не попадался никогда в ловушку персиста?)
источник

GP

Grigory Pomadchin in Moscow Spark
я честно говоря давно со всем этим сталкивался так что не смгу подвердить это ничем
могу посоветовать проверить как персист отлично на состояние кластера влияет
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Что круто в withCached — можно записать в два места, не захламляя код :)
источник

N

Nikolay in Moscow Spark
давайте разберемся. мои утверждения - с памятью проблем точно не будет, если не сделать unpersist.
источник