Size: a a a

2020 September 22

👑️

👑OGURCHIK🖤 ️ in ТП
Зачем он тут
источник

ИS

Илья Иванов Smith... in ТП
10 запросов
источник

ИS

Илья Иванов Smith... in ТП
Http
источник

👑️

👑OGURCHIK🖤 ️ in ТП
Ну ну
источник

👑️

👑OGURCHIK🖤 ️ in ТП
И что
источник

👑️

👑OGURCHIK🖤 ️ in ТП
🤔
источник

ИS

Илья Иванов Smith... in ТП
Там прокси используется. Если один заблокируют, подаётся (там генератор) следующий. А если сразу в 2ух потоках - оба пытаются следующий получить.
источник

👑️

👑OGURCHIK🖤 ️ in ТП
Ну так обычно собирают кучку прокси
источник

👑️

👑OGURCHIK🖤 ️ in ТП
В тот же список
источник

👑️

👑OGURCHIK🖤 ️ in ТП
И берут
источник

👑️

👑OGURCHIK🖤 ️ in ТП
Попум
источник

👑️

👑OGURCHIK🖤 ️ in ТП
В чем проблема
источник

ИS

Илья Иванов Smith... in ТП
Стандартная requests за прокси берет объект такой структуры`{http: '123.123.43.43:1234', https: '123.123.43.43:1234'}`. Т.е. не списком. Приходится сначала выбрать прокси, а потом (грубо говоря) его один засунуть в эту структуру.

Чтобы функции в потоках не парились с прокси, я им подаю самописный объект "Requester". Запросы в потоках совершаются "requester.get(method, url, json...)".
requester, если запрос завершился но статус не 200, повторяет запрос, подставляя следующий прокси используя генератор new_proxy = next(proxy_generator) - это слабое место.

И вижу собственно только 2 варианта:
- обернуть получение нового прокси в Lock
- либо делать очередь нормальную

первый вариант быстрее. просто хз какой из локов брать
источник

👑️

👑OGURCHIK🖤 ️ in ТП
🤔
источник

ИS

Илья Иванов Smith... in ТП
вот етижы посатижы
источник

👑️

👑OGURCHIK🖤 ️ in ТП
А кто мешает передавать {хттп:переменная}
источник

ИS

Илья Иванов Smith... in ТП
вижу ошибку
источник

👑️

👑OGURCHIK🖤 ️ in ТП
И в переменную пихать проксю
источник

👑️

👑OGURCHIK🖤 ️ in ТП
Делаем список проксей
источник

👑️

👑OGURCHIK🖤 ️ in ТП
И в каждом треде.
Иф код != 200:
   Прости = список проксей.попуп()
источник