Size: a a a

2020 July 26

i

ildar in Scrapy
тупо в get-запросе делаешь цикл и заменяешь pageNum= на нужный тебе
источник

i

ildar in Scrapy
и пробегаешь по всему
источник

A

Andrii in Scrapy
источник

A

Andrii in Scrapy
да зачем, поменяй на 5000 айтемов на страницу)
источник

A

Andrii in Scrapy
или сколько их там на 42 страницах
источник

i

ildar in Scrapy
ну эт не всегда срабатывает. можно в лимит какой-то упереться и не узнать. но тоже вариант)
источник

AS

Anatolii Shaitanov in Scrapy
ildar
тупо в get-запросе делаешь цикл и заменяешь pageNum= на нужный тебе
Попробую ну это уже request
источник

i

ildar in Scrapy
открываешь сайт, идешь на последнюю страницу, берешь там цифру в духе 42. и потом делаешь цикл for заменяя там циферку для &pageNum=
источник

i

ildar in Scrapy
заодно, переходя на последнюю страницу - поймешь какой там get-запрос выполняется, в частности ту же &category сможешь подсмотреть можно поиграться с большими числами, но есть шанс что если будешь двигаться по большой выборке запалят
источник

AS

Anatolii Shaitanov in Scrapy
Чекну
источник
2020 July 27

AL

Ariel Lahiany in Scrapy
Hey all. Is there a way to ise Scrapy for mobile apps?
источник

V

Viktor in Scrapy
As far as I know, you can use Scrapy in conjunction with Appery.io for mobile apps.
источник

SS

Stepan Smirnov in Scrapy
Пытаюсь вытащить ссылки на pdf файлы с сайта https://sds.valvoline.com/
(в коде  запрашивается язык Norwegian, но это не принципиально).

Отправка запроса с ключевым словом работает, но когда пытаюсь открыть первый файл из полученного списка - сайт выдает ошибку (вероятно, неправильно работает функция parse_form_request()).
Что я делаю не так?

Собственно, сам код:
https://pastebin.com/dJdiT7jg
источник

DM

Dima Moiseenko in Scrapy
Не по теме, но все же:
С SQL рекурсией кто-то дружит?
источник

V

Viktor in Scrapy
Dima Moiseenko
Не по теме, но все же:
С SQL рекурсией кто-то дружит?
источник

DM

Dima Moiseenko in Scrapy
👍
источник

i

ildar in Scrapy
Stepan Smirnov
Пытаюсь вытащить ссылки на pdf файлы с сайта https://sds.valvoline.com/
(в коде  запрашивается язык Norwegian, но это не принципиально).

Отправка запроса с ключевым словом работает, но когда пытаюсь открыть первый файл из полученного списка - сайт выдает ошибку (вероятно, неправильно работает функция parse_form_request()).
Что я делаю не так?

Собственно, сам код:
https://pastebin.com/dJdiT7jg
А файлы точно на поддомене sds?
источник

i

ildar in Scrapy
И какую ошибку возвращает?
источник

SS

Stepan Smirnov in Scrapy
ildar
И какую ошибку возвращает?
источник

SS

Stepan Smirnov in Scrapy
Ошибка не в виде кода - а в редайректе на страницу с сообщением об ошибке
источник