Size: a a a

2020 June 04

SS

Smiley Smile in Scrapy
Andrey Rahmatullin
из поиска
т.е. через условный яндекс, верно понимаю? и это булет рабочий вариант?
источник

AR

Andrey Rahmatullin in Scrapy
Я про поиск вк
источник

AR

Andrey Rahmatullin in Scrapy
Но там не всю инфу видно конечно, я не помню что нет интересовало
источник

SS

Smiley Smile in Scrapy
Andrey Rahmatullin
Но там не всю инфу видно конечно, я не помню что нет интересовало
спасибо, погляжу
источник

SS

Smiley Smile in Scrapy
я почему-то подумал что он без аккаунта не доступен
источник

И

Илья in Scrapy
Сайт wine.com работает только через американский прокси, при этом никак не получается к нему через шел подключиться, ждешь три раза по три минуты и таймаут. При этом в браузере грузится . Что можно попробывать ? ?? Может надо запросы какие то повторить из Девтулза??
источник

К

Кирилл in Scrapy
Илья
Сайт wine.com работает только через американский прокси, при этом никак не получается к нему через шел подключиться, ждешь три раза по три минуты и таймаут. При этом в браузере грузится . Что можно попробывать ? ?? Может надо запросы какие то повторить из Девтулза??
Может надо, попробуй
источник

И

Илья in Scrapy
их там штук 15, может на какие то особое внимание обратить ?
источник

К

Кирилл in Scrapy
На все
источник

И

Илья in Scrapy
один из тех случаев, когда лучше промолчать
источник

AR

Andrey Rahmatullin in Scrapy
😹😹
источник

К

Кирилл in Scrapy
Да, можно было сразу пробовать, не спрашивая
источник

A

Alex in Scrapy
всем привет
пытаюсь решить одну задачку и вот в голове родился план)
хочу спросить, правильным путем ли я пытаюсь решить
суть задачи:
есть три сайта с которых паучек берет данные
но у каждого сайта свои методы защиты, один сайт пропускает все запросы и все ок
другой с жесткой защитой и я заколхозил Selenium - вроде получилось пробиться и брать данные
ну и третий только юезр агенты разные и тоже все ок
можно ли в рамках одного проекта для каждого сайта применять методы которые по своему обработают запросы?
как пример:
если сайт №2 - вызываем self.parse_2 - парсит с помощью Selenium
и так далее ко всем трем сайтов
или такая задача решается совсем по другому?
источник

К

Кирилл in Scrapy
Один сайт == один паук. Никаких parse_2
источник

A

Alex in Scrapy
весь мой план рухнул как карточный домик)
спасибо, понял
источник

A

Alex in Scrapy
чисто теоретически такой велосипед можно собрать?
источник

К

Кирилл in Scrapy
Теоретически можешь делать все что захочется
источник

SS

Stepan Smirnov in Scrapy
Кирилл
Один сайт == один паук. Никаких parse_2
а это экономически оправданно при большом количестве сайтов?
источник

МС

Михаил Синегубов... in Scrapy
Stepan Smirnov
а это экономически оправданно при большом количестве сайтов?
да, это оправдано, когда у тебя что то надо исправлять
источник

AR

Andrey Rahmatullin in Scrapy
Большом количестве сайтов с одинаковой версткой что ли?
источник