Size: a a a

2020 June 26

A

Andrii in Scrapy
Archie
я про типо чтото этого
такого нет(
источник

A

Archie in Scrapy
а что есть
источник

AS

Alexander Serebrov in Scrapy
Andrii
спс, еще вопрос, можно ли посчитать количество [0],[1],[2] без итерации?
такое можно при помощи jmespath делать https://jmespath.org/tutorial.html
будет что-то типа jmespath.search('data.list.*.slug', data_json)
источник

A

Andrii in Scrapy
with open("e27_links_2020-06-26-01-55-36.csv", "r", encoding='UTF-8') as f:
           reader = csv.DictReader(f)
           for row in reader:
               name = row.get('name')
               slug = row.get('slug')
               link = row.get('Link')
               url = f'https://e27.co/api/startups/get/?slug={slug}&data_type=general&get_badge=true'
               yield Request(url, callback=self.parse, meta={'link': link})
как сделать что б csv.reader прочитал рамдоно row ?
источник

К

Кирилл in Scrapy
Andrii
with open("e27_links_2020-06-26-01-55-36.csv", "r", encoding='UTF-8') as f:
           reader = csv.DictReader(f)
           for row in reader:
               name = row.get('name')
               slug = row.get('slug')
               link = row.get('Link')
               url = f'https://e27.co/api/startups/get/?slug={slug}&data_type=general&get_badge=true'
               yield Request(url, callback=self.parse, meta={'link': link})
как сделать что б csv.reader прочитал рамдоно row ?
источник

A

Andrii in Scrapy
и еще вопрос, как ограничить в скрапи количество урл к примеру до 100?
источник

К

Кирилл in Scrapy
ты сам пытешься что-то найти перед тем как вопрос задавать?
источник

i

ildar in Scrapy
Andrii
и еще вопрос, как ограничить в скрапи количество урл к примеру до 100?
хинт - формируешь вопрос на английском (можно гугл-транслейтом), пишешь в гугль, ответ обычно в первой пятерке ссылок)
источник

i

ildar in Scrapy
и потом уже когда ты ничего не нашел - пишешь в чатики.
источник

К

Кирилл in Scrapy
КАК ЖЕ РЕШИТЬ ЭТУ ЗАДАЧУ
@
НУ ПОМОГИ МНЕ
@
НЕТ НЕ ГУГЛИЛ
@
НУ ТЫ ЖЕ ЗНАЕШЬ КАК ЕЁ РЕШИТЬ СКАЖИ МНЕ
@
Я УЧУСЬ РЕШАТЬ ПРОБЛЕМЫ САМ ВОТ И ПРОШУ ТЕБЯ ПОМОЧЬ
@
НЕТ Я НЕ ХОЧУ ЗАДВАТЬ ВОПРОС ГУГЛУ КОГДА ЕСТЬ ТЫ РЯДОМ
@
НЕТ ТЫ МНЕ ПОМОГАЙ ТЫ БОЛЬШЕ МЕНЯ ПОЛУЧАЕШЬ
@
Я ЧТО ЗА ЭТИ ДЕНЬГИ ЕЩЁ ЧТО-ТО КРОМЕ ЗАМЕНЫ КАРТРИДЖЕЙ ДЕЛАТЬ ДОЛЖЕН
@
ПОМОГАЙ МНЕ ТЫ ПОЛУЧАЕШЬ В ДВА РАЗА БОЛЬШЕ МОЕГО
@
НЕ БУДУ Я ДОКУМЕНТАЦИИ ЧИТАТЬ МНЕ ЗА ЭТО НЕ ПЛАТЯТ
@
ДА ЧТО ТЫ ЗАЛАДИЛ ПРО ГУГЛ СВОЙ ТЫ МНЕ ПОМОГАЙ ТЫ КОЛЛЕГА ИЛИ КТО
@
НУ И НАХРЕН ТЕБЯ И КОМПАНИЮ ВАШУ
@
ПОЙДУ ЛУЧШЕ В СБИС НА ТЕХПОДДЕРЖКУ В НОСУ ПОЛЬЗОВАТЕЛЕЙ КОВЫРЯТЬСЯ
источник

МС

Михаил Синегубов... in Scrapy
Кирилл
КАК ЖЕ РЕШИТЬ ЭТУ ЗАДАЧУ
@
НУ ПОМОГИ МНЕ
@
НЕТ НЕ ГУГЛИЛ
@
НУ ТЫ ЖЕ ЗНАЕШЬ КАК ЕЁ РЕШИТЬ СКАЖИ МНЕ
@
Я УЧУСЬ РЕШАТЬ ПРОБЛЕМЫ САМ ВОТ И ПРОШУ ТЕБЯ ПОМОЧЬ
@
НЕТ Я НЕ ХОЧУ ЗАДВАТЬ ВОПРОС ГУГЛУ КОГДА ЕСТЬ ТЫ РЯДОМ
@
НЕТ ТЫ МНЕ ПОМОГАЙ ТЫ БОЛЬШЕ МЕНЯ ПОЛУЧАЕШЬ
@
Я ЧТО ЗА ЭТИ ДЕНЬГИ ЕЩЁ ЧТО-ТО КРОМЕ ЗАМЕНЫ КАРТРИДЖЕЙ ДЕЛАТЬ ДОЛЖЕН
@
ПОМОГАЙ МНЕ ТЫ ПОЛУЧАЕШЬ В ДВА РАЗА БОЛЬШЕ МОЕГО
@
НЕ БУДУ Я ДОКУМЕНТАЦИИ ЧИТАТЬ МНЕ ЗА ЭТО НЕ ПЛАТЯТ
@
ДА ЧТО ТЫ ЗАЛАДИЛ ПРО ГУГЛ СВОЙ ТЫ МНЕ ПОМОГАЙ ТЫ КОЛЛЕГА ИЛИ КТО
@
НУ И НАХРЕН ТЕБЯ И КОМПАНИЮ ВАШУ
@
ПОЙДУ ЛУЧШЕ В СБИС НА ТЕХПОДДЕРЖКУ В НОСУ ПОЛЬЗОВАТЕЛЕЙ КОВЫРЯТЬСЯ
мля, дядь, не пугай так больше. Я чуть сообщение не снес 😂
источник

К

Кирилл in Scrapy
😂
источник

МС

Михаил Синегубов... in Scrapy
ага, дал бы RO не глядя на сутки, потом пипирками пришлось бы мерятся 🙃
источник

К

Кирилл in Scrapy
Иногда шутка учит лучше, чем строгое "иди гугли". Так что это не оффтоп
источник

МС

Михаил Синегубов... in Scrapy
Кирилл
Иногда шутка учит лучше, чем строгое "иди гугли". Так что это не оффтоп
я первые две строчки прочитал и афигел. Тока когда аватарку увидел - стал дальше чиатать :)
источник

OS

Oleg Shleiko in Scrapy
Всем привет, необходима помощь знатоков. Подскажите пожалуйста, может кто разбирается в сертификатах и как они проверяются или нет скрапи... В чём суть: отправляю запрос через requests - всё норм, пытаюсь пауком - получаю 403 ошибку от сайта (market.yandex.ru). На рабочем проекте мы нашли способ выключить TLS 1.3, и всё поехало, но может есть другое решение... Ещё в чём разница, есть такой сайт
https://clienttest.ssllabs.com:8443/ssltest/viewMyClient.html
У requests Session tickets Yes
У scrapy Session tickets No
источник

AR

Andrey Rahmatullin in Scrapy
сомневаюсь что дело в сертификатах
источник

AR

Andrey Rahmatullin in Scrapy
и нет, скрапи валидность сертификата сервера не проверяет, но у нормального сайта он валидный один хрен
источник

OS

Oleg Shleiko in Scrapy
Спасибо за информацию
источник

AR

Andrey Rahmatullin in Scrapy
https://twistedmatrix.com/documents/current/api/twisted.internet.ssl.CertificateOptions.html говорит что Session tickets действительно по дефолту выключены
источник