Size: a a a

2020 December 09

A

Andrii in Scrapy
Если какойто агрегатор , 500+ пауков
источник

A

Andrii in Scrapy
Цен, продуктов, информации
источник

A

Andrii in Scrapy
Но такого мало
источник

Юd

Юра de jure in Scrapy
Скорее всего пилят сервис который отдает клиентам свежие данные по апи на основе ежемесячных подписок
источник

A

AstralRomance in Scrapy
response.xpath('.//div[@class="hawk-results-item__options-table-cell hawk-results-item__options-table-cell--price childAttributes"]/text()').getall()
С вот этой страницы https://starcitygames.com/search/?search_query=thief%20of%20sanity пытаюсь вытащить все цены кодом выше. Получаю пустой список. Что я делаю не так?
источник

МС

Михаил Синегубов... in Scrapy
AstralRomance
response.xpath('.//div[@class="hawk-results-item__options-table-cell hawk-results-item__options-table-cell--price childAttributes"]/text()').getall()
С вот этой страницы https://starcitygames.com/search/?search_query=thief%20of%20sanity пытаюсь вытащить все цены кодом выше. Получаю пустой список. Что я делаю не так?
1. не показал ссылку на страницу
2. не показал свой код
источник

МС

Михаил Синегубов... in Scrapy
3. для таких классов надо CSS пользовать
источник

МС

Михаил Синегубов... in Scrapy
4. точка в начале XPath не нужна
источник

A

AstralRomance in Scrapy
Михаил Синегубов
1. не показал ссылку на страницу
2. не показал свой код
Соре, ссылку добавил. Код же в начале, я больше ничего пока не делаю.
источник

A

AstralRomance in Scrapy
Михаил Синегубов
4. точка в начале XPath не нужна
Без точки с самого начала делал, не помогло. Попробовать cssом?
источник

A

Andrii in Scrapy
2020-12-09 17:54:39 [scrapy.downloadermiddlewares.retry] DEBUG: Retrying <GET /sitemaps/sitemap8.xml> (failed 1 times): User timeout caused connection failure: Getting /sitemap8.xml took longer than 180.0 seconds..
источник

МС

Михаил Синегубов... in Scrapy
AstralRomance
Без точки с самого начала делал, не помогло. Попробовать cssом?
ага
источник

A

Andrii in Scrapy
где увеличить время?
источник

МС

Михаил Синегубов... in Scrapy
DOWNLOAD_TIMEOUT ?
источник

МС

Михаил Синегубов... in Scrapy
источник

A

Andrii in Scrapy
AstralRomance
response.xpath('.//div[@class="hawk-results-item__options-table-cell hawk-results-item__options-table-cell--price childAttributes"]/text()').getall()
С вот этой страницы https://starcitygames.com/search/?search_query=thief%20of%20sanity пытаюсь вытащить все цены кодом выше. Получаю пустой список. Что я делаю не так?
отключи js и будет магия
источник

R

Rahat in Scrapy
https://csgoatse.com/crash
не подскажите где тут найти источник подзагрузки динамических данных этого блока  
я и так и так смотрел так и не понял как эти результаты подгружаются
источник

МС

Михаил Синегубов... in Scrapy
1. вкладка "Сеть" панели вебмастера
2. снифер
источник

R

Rahat in Scrapy
источник

МС

Михаил Синегубов... in Scrapy
причем, тут, скорее всего, нужен будет снифер + курить исходники страницы/JS. Наверняка это не HTTP
источник