Size: a a a

2020 July 16

К

Кирилл in Scrapy
Alexander Serebrov
кешируется же 😅 надо *.pyc Файлы удалить и все будет ок)
Так если исходники поменяются, pyc тоже перекомпилируется
источник

AR

Andrey Rahmatullin in Scrapy
скрапи импортирует всё из spiders на старте
источник

К

Кирилл in Scrapy
Или нет?  Не сталкивался чтоб оно старый код держало
источник

AS

Alexander Serebrov in Scrapy
Кирилл
Так если исходники поменяются, pyc тоже перекомпилируется
Если питон не знает, что они поменялись, то наверное нет)
Обычно бывает в ситуации: стянул свежий мастер, а там было переименование паука и запускается не то, что надо
источник

t

tfhx8 in Scrapy
Andrey Rahmatullin
скрапи импортирует всё из spiders на старте
да, поэтому у меня происходила остановка в другом спайдере, хотя в запуске укказывал другой
источник

t

tfhx8 in Scrapy
есть такая штука scrapy-rotating-proxies, ее как то к selenium возможно прикрутить?
источник

t

tfhx8 in Scrapy
Andrey Rahmatullin
пиши сеттингсы в custom_settings
внутри просто можно ка кто сделать как import mysettings?
источник

AR

Andrey Rahmatullin in Scrapy
нет
источник

AR

Andrey Rahmatullin in Scrapy
settings.py вообще не "для паука"
источник

AR

Andrey Rahmatullin in Scrapy
источник

V

Vitalii in Scrapy
Привет, кто-то может подсказать есть ли хорошие книги по веб скапингу?
источник

МП

Максим Петров... in Scrapy
Добрый день. Нужен совет по скрапу с сингл пейджа. Пробовал scrapy-splash но не смог получить полностью загруженный html. То есть контетном страница не заполнилась. Через  lua могу получить только статику. Пробовал splash:wait в скрипте -  не помогло js все равно не заполняет страницу
источник

МП

Максим Петров... in Scrapy
https://www.technodom.kz/ мой  таргет если поможет
источник

МП

Максим Петров... in Scrapy
Есть граф апи могу брать оттуда необходимую инфу но этот вариант на крайний случай. Поэтому буду благодарен любой помощи
источник

К

Кирилл in Scrapy
Максим Петров
Есть граф апи могу брать оттуда необходимую инфу но этот вариант на крайний случай. Поэтому буду благодарен любой помощи
graphql?
источник

МП

Максим Петров... in Scrapy
для нас наверное рест апи просто
источник

МП

Максим Петров... in Scrapy
источник

К

Кирилл in Scrapy
Используй его, в чем проблема
источник

МП

Максим Петров... in Scrapy
ломает общую логику проекта
источник

МП

Максим Петров... in Scrapy
используется джано со списком сайтов с возможностью динамески юрл выбирать для парса и тд
источник