Size: a a a

2020 May 28

VB

Vladyslav Babych in Scrapy
Oleg Shleiko
покажите плз коману запуска из скрипта
выше
источник

OS

Oleg Shleiko in Scrapy
а где настройки на уровень логгирования?
источник

VB

Vladyslav Babych in Scrapy
Oleg Shleiko
а где настройки на уровень логгирования?
В settings
источник

VB

Vladyslav Babych in Scrapy
Vladyslav Babych
Подскажите пожалуйста. В setting настраиваю логирование -https://gist.github.com/bc7b702f454df5310d062926188a70db. Прохожусь дебагером - везде ERROR. Потом запускаю паука со скрипта https://gist.github.com/f24a20c232d75a4f7b94caf0d5fd7132. В настройках опять же нужный уровень. Внутри класса паука уже уровень  логирования не задан вообще
@Shleif91 здесь чуть больше инфы
источник

OS

Oleg Shleiko in Scrapy
А так пробовали? LOG_LEVEL = 'ERROR'
источник

VB

Vladyslav Babych in Scrapy
Oleg Shleiko
А так пробовали? LOG_LEVEL = 'ERROR'
конечно
источник

OS

Oleg Shleiko in Scrapy
Vladyslav Babych
CONCURRENT_REQUESTS = cr_count or int(app.registry.settings['getitems.threads_count'])

   s = get_project_settings()
   s.update({'INPUT_ASIN_FILE': input_file,
             'CONCURRENT_REQUESTS': CONCURRENT_REQUESTS,
             'CONCURRENT_REQUESTS_PER_DOMAIN': CONCURRENT_REQUESTS,
             'CONCURRENT_REQUESTS_PER_IP': CONCURRENT_REQUESTS})


   process = CrawlerProcess(s)
   process.crawl('asin_parser', start_timestamp, input_file=input_file, app=app, daemon=daemon)
   process.start()
s = get_project_settings() отдаёт ERROR?
источник

OS

Oleg Shleiko in Scrapy
https://gist.github.com/Mo1far/f24a20c232d75a4f7b94caf0d5fd7132

тут у вас ещё и вызов configure_logging({'LOG_LEVEL': 'ERROR'})
источник

VB

Vladyslav Babych in Scrapy
Oleg Shleiko
https://gist.github.com/Mo1far/f24a20c232d75a4f7b94caf0d5fd7132

тут у вас ещё и вызов configure_logging({'LOG_LEVEL': 'ERROR'})
Ну это я убрал по ненадобности
источник

VB

Vladyslav Babych in Scrapy
Oleg Shleiko
s = get_project_settings() отдаёт ERROR?
value 40 priority 20
источник

OS

Oleg Shleiko in Scrapy
Vladyslav Babych
value 40 priority 20
не знаю что это
источник

VB

Vladyslav Babych in Scrapy
Это буквально в дэбагере так отображается
источник

VB

Vladyslav Babych in Scrapy
40 это уровень ERROR вроде
источник

AR

Andrey Rahmatullin in Scrapy
да
источник

OS

Oleg Shleiko in Scrapy
Предположений не имею((
источник

🎱

🎱 in Scrapy
ребят, подскажите плз,
есть страница с категориями продуктов,
и так несколько вложенных сабкатегорий,
как я могу по ним пройтись и если ссылок больше не будет, вызвать колбеком другой метод, который скравлит детали продуктов?
никак логику не могу придумать
источник

AR

Andrey Rahmatullin in Scrapy
зачем так?
источник

AR

Andrey Rahmatullin in Scrapy
скрейпи все продукты какие найдёшь
источник

🎱

🎱 in Scrapy
хм, ок.
не знаю, смог ли правильно описать проблему
но выглядит это так,
и так пока не дойду до листинга продуктов
источник

🎱

🎱 in Scrapy
источник