Size: a a a

2020 June 20

t

tfhx8 in Scrapy
еще момент, некоторые бывают палят и сам селениум
источник

R

Roma in Scrapy
tfhx8
еще момент, некоторые бывают палят и сам селениум
Да - палят...Некоторые настолько палят - что подсовывают неправильные данные
источник

t

tfhx8 in Scrapy
Roma
Да - палят...Некоторые настолько палят - что подсовывают неправильные данные
а есть какие то антидетект решения?)
источник

R

Roma in Scrapy
вот как раз в options они и передаются.....но есть и такие что не победить ничем....Вроде как puppeteer в этом плане лучше
источник

t

tfhx8 in Scrapy
а на сколько медленне будет scrapy с селениум примерно?
источник

t

tfhx8 in Scrapy
странно что нет докер решния, чтобы сразу был рабочий каталог, куда спайдеры прописывать и заготовки под headless или может есть?
источник

R

Roma in Scrapy
Смотря какая задача - и что требуется скрапить....Вообще - селениум не быстрое решение......Если ты имеешь ввиду селениум в контейнере - то есть решения
источник

t

tfhx8 in Scrapy
Roma
Смотря какая задача - и что требуется скрапить....Вообще - селениум не быстрое решение......Если ты имеешь ввиду селениум в контейнере - то есть решения
селениум в контейнере сразу заточенный вместе с scrapy, чтобы вручную не настраивать итп)
источник

t

tfhx8 in Scrapy
Roma
Смотря какая задача - и что требуется скрапить....Вообще - селениум не быстрое решение......Если ты имеешь ввиду селениум в контейнере - то есть решения
а что быстрее селениума,  но чтобы умело открывать сайты с поддержкой js?)
источник

R

Roma in Scrapy
tfhx8
селениум в контейнере сразу заточенный вместе с scrapy, чтобы вручную не настраивать итп)
такого не встречал - да и там не все так просто.....Я не специализируюсь на скрапинге, подожди утра - может кто подскажет что используют. Есть splash, puppeteer
источник

t

tfhx8 in Scrapy
Roma
такого не встречал - да и там не все так просто.....Я не специализируюсь на скрапинге, подожди утра - может кто подскажет что используют. Есть splash, puppeteer
если сейчас оно умеет многопоточно, то наверно подойдет
источник

ФФ

Фаза Фазов in Scrapy
ребят подскажите пожалуйста ...
не могу понять почему парсер  приносит ссылку на загрузку не ту которая на самом деле на сайте....
источник

К

Кирилл in Scrapy
Он не может приносить не ту. Ссылка именно та, что на сайте. Может быть ты просто не ту выбрал
источник

ФФ

Фаза Фазов in Scrapy
а может защита какая -то быть или динамические ссылки или что-то в этом духе?
источник

К

Кирилл in Scrapy
Может
источник

A

Andrii in Scrapy
Всем привет. Простите за офтоп, но помогите с requests post https://pastebin.com/BNkkvy6H
источник

A

Andrii in Scrapy
что я делаю не так?
источник

x\

xal.py \-_-/ in Scrapy
Andrii
что я делаю не так?
Без понятия
источник

x\

xal.py \-_-/ in Scrapy
Ты же ничего не кинул
источник

A

Andrii in Scrapy
xal.py \-_-/
Ты же ничего не кинул
😮
источник