Size: a a a

2021 February 07

К

Кирилл in Scrapy
Михаил Синегубов
третий пункт нужен "по необходимости" 😁
upd: ибо у меня "50/50" то использую, то нет
Ну тогда, это скорее Да, ты считаешь что они полезны
источник

i

i in Scrapy
следующий парсер с ними напишу. и так items использую все-равно
источник

МС

Михаил Синегубов... in Scrapy
ну, так то да, по крайней мере, считаю их полезной плюхой.

кстати, больше всего мне понравилась плюшка, когда в поле насовываешь данные из кучи мест, а потом их объединяешь.
Я так без проблем собирал дескрипшен их 3-5 мест страницы (от такая странная верстка была)
источник

S

SoHard 🎄 in Scrapy
ну штош, пора наверное разобраться )
источник

S

SoHard 🎄 in Scrapy
а то нахваливаете каждую неделю
источник

i

i in Scrapy
на wsl2 ставишь надеюсь?
источник

К

Кирилл in Scrapy
Ознакомиться, так точно нужно)
источник

i

i in Scrapy
через
источник

i

i in Scrapy
источник

S

SoHard 🎄 in Scrapy
да
источник

🎱

🎱 in Scrapy
кстати, мне нужно ограничить айтемы в скрапи до 100 штук.
прописал в settings CLOSESPIDER_ITEMCOUNT = 100
все равно скрапится больше 100. (116)
источник

i

i in Scrapy
Если используешь git, сразу выставь себе git config --global core.autocrlf input шо это такое объяснено тут https://stackoverflow.com/questions/10418975/how-to-change-line-ending-settings
источник

МС

Михаил Синегубов... in Scrapy
🎱
кстати, мне нужно ограничить айтемы в скрапи до 100 штук.
прописал в settings CLOSESPIDER_ITEMCOUNT = 100
все равно скрапится больше 100. (116)
скорее всего, не успевает обработаться событие
источник

К

Кирилл in Scrapy
🎱
кстати, мне нужно ограничить айтемы в скрапи до 100 штук.
прописал в settings CLOSESPIDER_ITEMCOUNT = 100
все равно скрапится больше 100. (116)
Там мягкая остановка, если что-то где-то подвисло в очереди, то оно доработает
источник

🎱

🎱 in Scrapy
мм, вот оно что. Т.е нельзя прям строго ограничить?
источник

МС

Михаил Синегубов... in Scrapy
🎱
мм, вот оно что. Т.е нельзя прям строго ограничить?
напиши условие в пайпе "при наличии параметра проверять и ограничить"
источник

К

Кирилл in Scrapy
Прям строго, это наверное отдельно нужно писать, чтоб оно лишние айтемы дропнуло
источник

i

i in Scrapy
Типа raise scrapy.exceptions.CloseSpider('emergency brake') тоже не получится сразу застопкранить?)
источник

К

Кирилл in Scrapy
Вроде такое закрытие паука тоже мягко закрывать будет
источник

🎱

🎱 in Scrapy
Михаил Синегубов
напиши условие в пайпе "при наличии параметра проверять и ограничить"
а нет случайно примера как это сделать?
источник