Size: a a a

DevOps — русскоговорящее сообщество

2020 July 16

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
Привет всем. Может кто подскажет

Делаю 2 запроса. Один через браузер в инкогнито хрома: https : //market.yandex.ru/catalog--smartfony/16814639/list?hid=91491&glfilter=16816262:16816264&onstock=1

Другой -- курлом.


    curl --location --request GET 'https://market.yandex.ru/catalog--smartfony/16814639/list?hid=91491&glfilter=16816262:16816264&onstock=1' --header 'Accept:  text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9' --header 'Accept-Encoding:  gzip, deflate, br' --header 'Accept-Language:  ru-RU,ru;q=0.9,en-US;q=0.8,en;q=0.7' --header 'Connection:  keep-alive' --header 'Host:  market.yandex.ru' --header 'Sec-Fetch-Dest:  document' --header 'Sec-Fetch-Mode:  navigate' --header 'Sec-Fetch-Site:  none' --header 'Upgrade-Insecure-Requests:  1' --header 'User-Agent:  Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.61 Safari/537.36'

В первом случае ответ 302. Во втором 403. Хедеры и всё остальное совпадает. В чём прикол?
источник

CS

Colmanno Sebastiani in DevOps — русскоговорящее сообщество
очевидно, что определяет по каким-то параметрам
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
Colmanno Sebastiani
очевидно, что определяет по каким-то параметрам
Как? Хотя бы куда смотреть? js исключён, так как я смотрю на статус код и js к этому времени ещё не отработал
источник

CS

Colmanno Sebastiani in DevOps — русскоговорящее сообщество
фингерпринт, канвас, жс, юа
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
Colmanno Sebastiani
фингерпринт, канвас, жс, юа
Поясни, плес
источник

VS

Vladimir Samoylov in DevOps — русскоговорящее сообщество
Egor Urvanov
Привет всем. Может кто подскажет

Делаю 2 запроса. Один через браузер в инкогнито хрома: https : //market.yandex.ru/catalog--smartfony/16814639/list?hid=91491&glfilter=16816262:16816264&onstock=1

Другой -- курлом.


    curl --location --request GET 'https://market.yandex.ru/catalog--smartfony/16814639/list?hid=91491&glfilter=16816262:16816264&onstock=1' --header 'Accept:  text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9' --header 'Accept-Encoding:  gzip, deflate, br' --header 'Accept-Language:  ru-RU,ru;q=0.9,en-US;q=0.8,en;q=0.7' --header 'Connection:  keep-alive' --header 'Host:  market.yandex.ru' --header 'Sec-Fetch-Dest:  document' --header 'Sec-Fetch-Mode:  navigate' --header 'Sec-Fetch-Site:  none' --header 'Upgrade-Insecure-Requests:  1' --header 'User-Agent:  Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.61 Safari/537.36'

В первом случае ответ 302. Во втором 403. Хедеры и всё остальное совпадает. В чём прикол?
<h1 class="content__h1">Доступ к&nbsp;нашему сервису временно запрещён!</h1><p>Возможно, ваш компьютер заражён вредоносной программой, которая автоматически обращается к&nbsp;Яндексу.<br>Рекомендуем вам проверить компьютер на&nbsp;вирусы или обратиться к&nbsp;администратору вашей сети.</p><p>Если у&nbsp;вас возникли проблемы или вы&nbsp;хотите задать вопрос нашей службе поддержки, пожалуйста, воспользуйтесь <a class="link" href="https://yandex.ru/support/captcha/" onclick="ym(15897442, 'reachGoal', 'support_complain', { 'req_id': '1594849839682865-13827491718571164628' }); return true;">формой обратной связи</a>.</p
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
Vladimir Samoylov
<h1 class="content__h1">Доступ к&nbsp;нашему сервису временно запрещён!</h1><p>Возможно, ваш компьютер заражён вредоносной программой, которая автоматически обращается к&nbsp;Яндексу.<br>Рекомендуем вам проверить компьютер на&nbsp;вирусы или обратиться к&nbsp;администратору вашей сети.</p><p>Если у&nbsp;вас возникли проблемы или вы&nbsp;хотите задать вопрос нашей службе поддержки, пожалуйста, воспользуйтесь <a class="link" href="https://yandex.ru/support/captcha/" onclick="ym(15897442, 'reachGoal', 'support_complain', { 'req_id': '1594849839682865-13827491718571164628' }); return true;">формой обратной связи</a>.</p
Это ты поймал 403
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
В браузере оно не ловится
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
В браузере ловится либо 302, либо 200
источник

CS

Colmanno Sebastiani in DevOps — русскоговорящее сообщество
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
Вот что увидел.
Flash player
Silverlight
WebGL report
Java Applet
ContentFilters

Но в какой момент браузер передаёт информацию обо всём этом? Мне кажется, что этим всем занимается js. Или я не прав?
источник

CS

Colmanno Sebastiani in DevOps — русскоговорящее сообщество
капча
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
При чём тут капча?
источник

CS

Colmanno Sebastiani in DevOps — русскоговорящее сообщество
потому что палит автоматизацию и кидает на капчу
источник

CS

Colmanno Sebastiani in DevOps — русскоговорящее сообщество
хочешь достать - используй скрепи сплеш или полноценные браузеры по типу папета или селениума
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
Простите, но вы говорите фигню
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
может быть
источник

EU

Egor Urvanov in DevOps — русскоговорящее сообщество
может быть затык в способе шифрования
источник

CS

Colmanno Sebastiani in DevOps — русскоговорящее сообщество
я только что проверил запрос в постмане и обычным реквестом
источник