Size: a a a

2019 April 11

GP

Grigory Pomadchin in Moscow Spark
Nikolay
Да.если данные сохранены на диск и код в другом stage читает их с диска, то тот кусок в памяти уже не нужен. Получается, что persist только внутри одного stage    работает
ты имей ввиду, что персист тоже может значить _сохренен на диск_ поэтому абсолютно двусмысленная фраза
источник

GP

Grigory Pomadchin in Moscow Spark
всеравно трудно распарсить работает внутри одного стейдж
источник

GP

Grigory Pomadchin in Moscow Spark
у тебя на стейдже в твоей терминлогии где блоки помчены левелом персиста, сохраняются (на диске или в памяти) в состоянии после стейджа

и в этом состоянии могут использовать во всех последющих стейджах
источник

N

Nikolay in Moscow Spark
Andrey Smirnov
но ты же и в новом stage можешь обратится к данным которые раньше закешировал раньше (в других stage)
Как так? Я же обращаюсь только к данным, которые уже после последней трансформации.т.е к последним данным в стэйджа
источник

AS

Andrey Smirnov in Moscow Spark
Nikolay
Как так? Я же обращаюсь только к данным, которые уже после последней трансформации.т.е к последним данным в стэйджа
это еще почему?
источник

GP

Grigory Pomadchin in Moscow Spark
источник

GP

Grigory Pomadchin in Moscow Spark
я вообще не понимаю
источник

GP

Grigory Pomadchin in Moscow Spark
Андрей! оставляю его на тебя
источник

GP

Grigory Pomadchin in Moscow Spark
источник

GP

Grigory Pomadchin in Moscow Spark
Nikolay код вам скинули, можно уже курить
терминологию давай поточнее; у тебя в одном предложении и стейджи (которые вообще бесполезны нам тут для понимания вопроса) чтения с диска сохранения на диск чтение с диска при всем при этом в контексте персистов - это явная двусмысленность - о чем речь данные сырые читаются с диска и сохраняются или ты про блоки

запятые опущены для дармматичности

попробуй поиспользовать функции
посейфи после мапов после фильтров
источник

GP

Grigory Pomadchin in Moscow Spark
чтоб понять как работает на практике
источник

GP

Grigory Pomadchin in Moscow Spark
а потом спросишь почему так в теории
источник

GP

Grigory Pomadchin in Moscow Spark
источник

N

Nikolay in Moscow Spark
Grigory Pomadchin
Андрей! оставляю его на тебя
Спасибо, Григорий. Ты сильно помог.
источник
2019 April 12

SO

Simon Osipov in Moscow Spark
Подскажите пожалуйста, jdbc драйвер для постгреса в режиме Overwrite делает truncate table?
источник

PK

Pavel Klemenkov in Moscow Spark
Simon Osipov
Подскажите пожалуйста, jdbc драйвер для постгреса в режиме Overwrite делает truncate table?
Да
источник

SO

Simon Osipov in Moscow Spark
Спасибо
источник

SO

Simon Osipov in Moscow Spark
Нет
источник

SO

Simon Osipov in Moscow Spark
Только что проверил и получил ошибку:
 org.postgresql.util.PSQLException: ERROR: cannot drop table schema.t1 because other objects depend on it
 Detail: constraint id_fk on table schema.divisions depends on table schema.regions
 Hint: Use DROP ... CASCADE to drop the dependent objects too.
источник

АЖ

Андрей Жуков... in Moscow Spark
Simon Osipov
Только что проверил и получил ошибку:
 org.postgresql.util.PSQLException: ERROR: cannot drop table schema.t1 because other objects depend on it
 Detail: constraint id_fk on table schema.divisions depends on table schema.regions
 Hint: Use DROP ... CASCADE to drop the dependent objects too.
А в option truncate указал?
источник