Size: a a a

Node.js — русскоговорящее сообщество

2020 September 14

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Игорь Захаров
Друзья, еще один нубовский вопросик от меня)

Есть список урлов на файлы с удаленного сервера. пытаюсь пройти циклом и скачать все. В какой-то момент (1800-1900 скаченных файлов) они перестают скачиваться. Ошибок никаких нет.
Пробовал разные варианты:
1. Вариант прохода через массива через цикл for in, со скачиванием напрямую через node-wget
2. вариант прохода через for in с добавлением в очередь tress и скачиванием через http.get

Подскажите пожалуйста куда копать.
Нужно поставить задержку между скачиваниями
источник

ИЗ

Игорь Захаров... in Node.js — русскоговорящее сообщество
The Fallen Phoenix
Нужно поставить задержку между скачиваниями
пробовал ставить ставить 2000 на wget - тож самое
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Я думаю это мало. Нужно смотреть какие политики на сервере откуда качается
источник

y

ymdev in Node.js — русскоговорящее сообщество
Игорь Захаров
Друзья, еще один нубовский вопросик от меня)

Есть список урлов на файлы с удаленного сервера. пытаюсь пройти циклом и скачать все. В какой-то момент (1800-1900 скаченных файлов) они перестают скачиваться. Ошибок никаких нет.
Пробовал разные варианты:
1. Вариант прохода через массива через цикл for in, со скачиванием напрямую через node-wget
2. вариант прохода через for in с добавлением в очередь tress и скачиванием через http.get

Подскажите пожалуйста куда копать.
если нет ошибок, то либо ты их не отлавливаешь, либо таймаутов нет, которые бы эти ошибки сделали.
Вероятно, на сервере, с которого ты качаешь что-то происходит
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Если они не допускают того что хочется сделать, нужно использовать прокси
источник

ИЗ

Игорь Захаров... in Node.js — русскоговорящее сообщество
The Fallen Phoenix
Я думаю это мало. Нужно смотреть какие политики на сервере откуда качается
а вот это можно чуть поподробнее, куда смотреть.
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
ymdev
если нет ошибок, то либо ты их не отлавливаешь, либо таймаутов нет, которые бы эти ошибки сделали.
Вероятно, на сервере, с которого ты качаешь что-то происходит
Сервер может просто начать отправлять пустой 200 ОК
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
А не ошибку
источник

y

ymdev in Node.js — русскоговорящее сообщество
The Fallen Phoenix
Сервер может просто начать отправлять пустой 200 ОК
это что за чудеса такие?
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Чтобы не сливали его контент
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Вполне рабочая защита
источник

y

ymdev in Node.js — русскоговорящее сообщество
The Fallen Phoenix
Чтобы не сливали его контент
сильно сомневаюсь, что такое имеет место быть после 2К удачных скачиваний.
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Ну мы же не знаем сколько всего надо скачать и какого размера каждое скачивание
источник

ИЗ

Игорь Захаров... in Node.js — русскоговорящее сообщество
The Fallen Phoenix
Ну мы же не знаем сколько всего надо скачать и какого размера каждое скачивание
сейчас скачивается 1800-1900 файлов объемом 200метров
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Если надо скачать 2М что собрать полный дамп, то рубить на 2К с таймаутом 24 часа это красиво.
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Игорь Захаров
сейчас скачивается 1800-1900 файлов объемом 200метров
А потом через сколько скачиваться опять начинает?
источник

ИЗ

Игорь Захаров... in Node.js — русскоговорящее сообщество
The Fallen Phoenix
А потом через сколько скачиваться опять начинает?
сразу же
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Тогда это на твоей стороне проблема
источник

T

The Fallen Phoenix in Node.js — русскоговорящее сообщество
Возможно из-за того что используется внешний по отношению к ноде софт для скачивания
источник

p

pavelmartinez in Node.js — русскоговорящее сообщество
Насколько выгодно запускать высоконагруженного чат-бота на Serverless архитектуре?
источник