AR
Size: a a a
AR
A
AR
К
G
scrapy
- очень плохая затея.scrapy
не умеет streaming
. Для загрузки каждого файла средствами scrapy
понадобится что бы файл целиком поместился в оперативную память (с учетом особенностей реализации некоторых частей scrapy
- 2 или даже 3 раза).pipeline
появился get
из requests
в режиме streaming=True
(что бы предотвратить перерасход оперативной памяти).requests.get
внутри асинхронного scrapy
- соответственно requests.get
остановит приложение до момента полной загрузки файла.AR
BB
AR
NS
A
AP
AP
A
AP
A
A
A
AP
AP
AP