Size: a a a

2021 January 09

A

Andrii in Scrapy
Еще не собрал?
источник

A

Alex in Scrapy
Andrii
Еще не собрал?
Нее... Осталось что-то около 17 тыс., но, внезапно после очередной, как я думал, блокировки, вылезла капча. Поставил пока на паузу это дело и думаю, как добить (да и в будущем еще надо будет) малой кровью.
источник
2021 January 10

S

SoHard 🎄 in Scrapy
поставьте уже капча-бота на вход, каждый день же тут биткоины раздают, не проще отсеивать их еще на входе?
источник
2021 January 11

AA

An Allford in Scrapy
Ребят, всем добрый день
У меня есть сайт, данные с которого я собираю.
Но дело в том, что мне нельзя к нему обращаться чаще чем 1 раз в секунду с одного ip и на одну авторизованную сессию.
Может кто-нибудь знает как инструментами скрапи сделать конкурентные запросы, но с ограничением по таймингу с  привязкой к сессии и айпишнику?
источник

К

Кирилл in Scrapy
An Allford
Ребят, всем добрый день
У меня есть сайт, данные с которого я собираю.
Но дело в том, что мне нельзя к нему обращаться чаще чем 1 раз в секунду с одного ip и на одну авторизованную сессию.
Может кто-нибудь знает как инструментами скрапи сделать конкурентные запросы, но с ограничением по таймингу с  привязкой к сессии и айпишнику?
В ротейтинг прокси вроде паузы на каждый айпи отдельно
источник

J

Jack in Scrapy
Ребят, почему закрывают в магазинах апишку с параметрами гет, ну хотябы для парсинга постов для людей оставили бы
источник

J

Jack in Scrapy
Ну елки палки, нужно регистрироваться как предприятия либо облодить как-то
источник

J

Jack in Scrapy
Это не дибилизм?
источник

J

Jack in Scrapy
Или я чего то не понимаю
источник

A

Andrii in Scrapy
Ну хз, может что б не парсили?)
источник

J

Jack in Scrapy
Так а в чем проблема того что люди будут брать посты
источник

J

Jack in Scrapy
Для сравнения цен и прочего
источник

J

Jack in Scrapy
Типо нет, я понимаю там для работы с апи со своими товарами
источник

J

Jack in Scrapy
Загрузка выгрузка
источник

J

Jack in Scrapy
Прочее
источник

A

Andrii in Scrapy
Вопрос филисофии
источник

J

Jack in Scrapy
Ну тут тоже верно просто я вот думаю, ИП у меня то своего ничего нет, зарегистрироваться не могу попробовать, что в таком случае делать, подзабить или искать обходные пути какие либо?
источник

МС

Михаил Синегубов... in Scrapy
Jack
Ребят, почему закрывают в магазинах апишку с параметрами гет, ну хотябы для парсинга постов для людей оставили бы
1. хотят много денег за доступ
2. не хотят что бы нищеброды растащили контент (не принимай близко к сердцу, это образно)
3. не хотят возится с нагрузкой на сервак
источник

J

Jack in Scrapy
Справедливо
источник

J

Jack in Scrapy
А вот допустим я захожу на страницу, пускай спаршу html, загружает по 4 допустим элемента, как я могу загрузить сразу всю страницу?
источник