Size: a a a

R (язык программирования)

2020 July 15

ВН

Вадим Николаенко... in R (язык программирования)
Здравствуйте!
Подскажите, пожалуйста, как можно прочитать json, размером 115 ГБ
Пробовал sparklyr - spark_read_json, выдает ошибку, мол, недостаточно памяти.
Я думал, что sparklyr должен его поднимать частями и писать их на диск, но диск работает только на чтение, а не на запись.
Предложеные в Google варианты относительно увеличения MemoryOverhead и maxResultSize успехом не увенчались (

Может кто-то знает, как заставить sparklyr читать данные кусками в таком случае, подскажите, пожалуйста.
Спасибо
источник

АК

Артём Клевцов... in R (язык программирования)
Вадим Николаенко
Здравствуйте!
Подскажите, пожалуйста, как можно прочитать json, размером 115 ГБ
Пробовал sparklyr - spark_read_json, выдает ошибку, мол, недостаточно памяти.
Я думал, что sparklyr должен его поднимать частями и писать их на диск, но диск работает только на чтение, а не на запись.
Предложеные в Google варианты относительно увеличения MemoryOverhead и maxResultSize успехом не увенчались (

Может кто-то знает, как заставить sparklyr читать данные кусками в таком случае, подскажите, пожалуйста.
Спасибо
?jsonlite::stream_in
источник

А

Александр in R (язык программирования)
Вадим Николаенко
Здравствуйте!
Подскажите, пожалуйста, как можно прочитать json, размером 115 ГБ
Пробовал sparklyr - spark_read_json, выдает ошибку, мол, недостаточно памяти.
Я думал, что sparklyr должен его поднимать частями и писать их на диск, но диск работает только на чтение, а не на запись.
Предложеные в Google варианты относительно увеличения MemoryOverhead и maxResultSize успехом не увенчались (

Может кто-то знает, как заставить sparklyr читать данные кусками в таком случае, подскажите, пожалуйста.
Спасибо
вероятно стоит это делать не в R, а напрямую в системном терминале утилитой вроде jq
источник

АК

Артём Клевцов... in R (язык программирования)
Артём Клевцов
?jsonlite::stream_in
Можно его таким образом преобразовать и сохранить в CSV, которую спарк съест без проблем.
источник

ВН

Вадим Николаенко... in R (язык программирования)
Артём Клевцов
?jsonlite::stream_in
Спасибо, попробую - отпишусь
источник

⌨️ in R (язык программирования)
Jury Sergeev
спасибо, помогло!
Если в соответствующей anesthetics вы передадите +-Inf, то линия дорисуется прямо до оси, вне зависимости, задан ли у вас expand или нет. Для лог масштаба соответственно нужно использовать 0
источник

ВL

Владислав Lazycat... in R (язык программирования)
Вадим Николаенко
Здравствуйте!
Подскажите, пожалуйста, как можно прочитать json, размером 115 ГБ
Пробовал sparklyr - spark_read_json, выдает ошибку, мол, недостаточно памяти.
Я думал, что sparklyr должен его поднимать частями и писать их на диск, но диск работает только на чтение, а не на запись.
Предложеные в Google варианты относительно увеличения MemoryOverhead и maxResultSize успехом не увенчались (

Может кто-то знает, как заставить sparklyr читать данные кусками в таком случае, подскажите, пожалуйста.
Спасибо
читайте в БД. и из R уже обращаться надо в БД ( ну или наоборот)
источник

JS

Jury Sergeev in R (язык программирования)
⌨️
Если в соответствующей anesthetics вы передадите +-Inf, то линия дорисуется прямо до оси, вне зависимости, задан ли у вас expand или нет. Для лог масштаба соответственно нужно использовать 0
Век живи, век учись. Благодарю!
источник

⌨️ in R (язык программирования)
Jury Sergeev
Век живи, век учись. Благодарю!
Лучше так чем методом тыка гуглить)
источник

AS

Alexander Semenov in R (язык программирования)
О какая дичь творится, если скопировать код в R из сниппетов Слака. Никто не сталкивался? В оригинале, естественно, обычный пробел.
источник

А

Александр in R (язык программирования)
Alexander Semenov
О какая дичь творится, если скопировать код в R из сниппетов Слака. Никто не сталкивался? В оригинале, естественно, обычный пробел.
код мужика
источник

AS

Alexander Semenov in R (язык программирования)
Во-во.
источник

AB

Alexey Burnakov in R (язык программирования)
Alexander Semenov
О какая дичь творится, если скопировать код в R из сниппетов Слака. Никто не сталкивался? В оригинале, естественно, обычный пробел.
раньше замечал, что в R studio иногда появлялись подобные символы на пустом месте, просто если код оставить. сердечко было
источник

AB

Alexey Burnakov in R (язык программирования)
даже заподозрил, что кто-то влюбился
источник

AB

Alexey Burnakov in R (язык программирования)
но потом прошло )
источник

HC

Herman Cherniaiev in R (язык программирования)
Ребят у вас было такое, что  merge, join_left, join_all   просто не видит два идентичных слова в разных базах
источник

A

Andrey in R (язык программирования)
Herman Cherniaiev
Ребят у вас было такое, что  merge, join_left, join_all   просто не видит два идентичных слова в разных базах
бывало такое, что два слова нифига не идентичные
источник

A

Andrey in R (язык программирования)
слово и cлово, например - разные
источник

A

Andrey in R (язык программирования)
неужели никогда c() с кириллической "с" писать не доводилось? :)
источник

HC

Herman Cherniaiev in R (язык программирования)
Ниразу 😎
источник