Size: a a a

2020 May 28

AK

Anil Kumar in Scrapy
Then tell me how can I store data into csv while running multiple spiders?
источник

AR

Andrey Rahmatullin in Scrapy
set FEED_URI
источник

AK

Anil Kumar in Scrapy
Andrey Rahmatullin
set FEED_URI
I'll try
источник

AR

Andrey Rahmatullin in Scrapy
though of course files should be separate for separate spiders
источник

🎱

🎱 in Scrapy
как пройтись по основным категориям и их подкатегориям рекурсивно?
источник

AR

Andrey Rahmatullin in Scrapy
в чём вопрос?
источник

🎱

🎱 in Scrapy
не могу придумать логику,
вот допустим, у меня 5 категорий,
у этих категории еще под категории.
Как по ним пройтись? для каждого свой колбек?
если в свой же колбек отдать те же категории для рекурсии, остальные ссылки на категории которые были в листе ведь исчезнут?
источник

AR

Andrey Rahmatullin in Scrapy
для одинаковых по структуре страниц один колбэк, для разных разные
источник

AR

Andrey Rahmatullin in Scrapy
последний вопрос не понял
источник

🎱

🎱 in Scrapy
Andrey Rahmatullin
для одинаковых по структуре страниц один колбэк, для разных разные
можешь показать пример, пожалуйста? вообще не доходит.
С одинаковой структурой
источник

AR

Andrey Rahmatullin in Scrapy
показать что? один колбэк?
источник

AR

Andrey Rahmatullin in Scrapy
два колбэка?
источник

🎱

🎱 in Scrapy
Andrey Rahmatullin
показать что? один колбэк?
один колбэек который рекурсивно доходит до base case
источник

AR

Andrey Rahmatullin in Scrapy
колбэки просто парсят страницу
источник

🎱

🎱 in Scrapy
https://pastebin.com/Vd0eDgCp
вот, в код приходит категория
он в свою очередь извлекает остальные сабкатегории,
и у этих сабкатегории есть еще категории.
Как по ним всем пройтись?
источник

AR

Andrey Rahmatullin in Scrapy
если структура новых страниц такая же, то использовать этот же колббэк, если другая, то написать новый
источник

AR

Andrey Rahmatullin in Scrapy
твой код уже рекурсивный, он не работает?
источник

🎱

🎱 in Scrapy
Andrey Rahmatullin
твой код уже рекурсивный, он не работает?
да, это понял)
он работает, но он начинает брать сабкатегорию и их сабкатегории, проходится по ним а остальные ссылки теряются.
источник

AR

Andrey Rahmatullin in Scrapy
куда теряются?
источник

A

Andrii in Scrapy
А кто-то скрепил imdb?
источник