Size: a a a

2020 June 13

S

SoHard 🎄 in Scrapy
Alex
ребятки помогите(
не могу побороть нажатие вот такого всплывающего окна
попробовал разные варианты но нет
очень интересно учитывая что нет ссылки
источник

A

Alex in Scrapy
SoHard 🎄
очень интересно учитывая что нет ссылки
https://www.avito.ru/respublika_krym/transport - на некоторых обьявах такая вот защита что ли
если нажать на "Показать телефон"
вот так правда нажалось, но чувствую что это не правильно
div.js-anonym-phone-popup-content:nth-child(1) > div:nth-child(1) > div:nth-child(1) > div:nth-child(1) > div:nth-child(1)
источник

S

SoHard 🎄 in Scrapy
Alex
https://www.avito.ru/respublika_krym/transport - на некоторых обьявах такая вот защита что ли
если нажать на "Показать телефон"
вот так правда нажалось, но чувствую что это не правильно
div.js-anonym-phone-popup-content:nth-child(1) > div:nth-child(1) > div:nth-child(1) > div:nth-child(1) > div:nth-child(1)
источник

S

SoHard 🎄 in Scrapy
там переадресация с номера авито на номер продавца
источник

A

Alex in Scrapy
понял) спасибо
источник

SS

Stepan Smirnov in Scrapy
а как yelp относится к парсингу? Достаточно ли использовать прокси и user agent?
источник

К

Кирилл in Scrapy
Stepan Smirnov
а как yelp относится к парсингу? Достаточно ли использовать прокси и user agent?
Соблюдай скорость иначе забанят или навсегда, или очень надолго
источник

SS

Stepan Smirnov in Scrapy
Кирилл
Соблюдай скорость иначе забанят или навсегда, или очень надолго
5-6 запросов в минуту с одного IP?
источник

К

Кирилл in Scrapy
Stepan Smirnov
5-6 запросов в минуту с одного IP?
Думаю так нормально будет, точные цифры уже не помню
источник

SS

Stepan Smirnov in Scrapy
А где можно почитать про организацию процесса поддержки парсинга 100+ сайтов? Альтернативно - готов заплатить за консультацию по этому вопросу.
источник
2020 June 14

К

Кирилл in Scrapy
Stepan Smirnov
А где можно почитать про организацию процесса поддержки парсинга 100+ сайтов? Альтернативно - готов заплатить за консультацию по этому вопросу.
Думаю особо нигде
источник

AS

Alexander Serebrov in Scrapy
Stepan Smirnov
а как yelp относится к парсингу? Достаточно ли использовать прокси и user agent?
Насколько я знаю, оч плохо) и скорее всего перечисленного недостаточно
источник

A

Alex in Scrapy
def parse(self, response):
       self.driver.set_window_size(1349, 629)
       self.driver.get(response.url)
       response = Selector(text=self.driver.page_source)
   
подскажите как получить адрес страницы если в респонс передан селектор
источник

AR

Andrey Rahmatullin in Scrapy
чо
источник

A

Alex in Scrapy
))
источник

AR

Andrey Rahmatullin in Scrapy
из селектора урл конечно никак, но вопрос криво сформулирован (и код кривой)
источник

A

Alex in Scrapy
а как взять адрес страницы?
и почему кривой код, не сомневаюсь конечно в этом)
источник

AR

Andrey Rahmatullin in Scrapy
потому что объект response зачем-то затирается
источник

OS

Oleg Shleiko in Scrapy
Alex
def parse(self, response):
       self.driver.set_window_size(1349, 629)
       self.driver.get(response.url)
       response = Selector(text=self.driver.page_source)
   
подскажите как получить адрес страницы если в респонс передан селектор
а что за драйвет?
источник

S

SoHard 🎄 in Scrapy
есть же scrapy-selenium
источник