Size: a a a

Чат к каналу @begtin

2020 March 08

RN

Renat Nasridinov in Чат к каналу @begtin
Anton [az09@osm] Belichkov
короче в оба пишу transport.cheladmin.ru?
--no-parent --domains cheladmin.ru  transport.cheladmin.ru
источник

RN

Renat Nasridinov in Чат к каналу @begtin
Victor Stepankov
Так к хтмл файлам и добавилось
там неплохо бы паузу добавлять
чтоб серак не ддосить
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
ночью в выходной день?.. 😳
источник

RN

Renat Nasridinov in Чат к каналу @begtin
Anton [az09@osm] Belichkov
зачем-то ко всем файлам добавилось еще одно расширение html
В справке:

--html-extension Если тип загруженного файла text/html и его адрес не оканчивается на \.[Hh][Tt][Mm][Ll]?, при использовании данного параметра к его имени будет добавлено .html.
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
Renat Nasridinov
--no-parent --domains cheladmin.ru  transport.cheladmin.ru
о, вот так чуть понятней, спасибо
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
http://51.15.192.163/transport.cheladmin.ru/index.shtml
из-за CORS не появляются некоторые картинки, но вроде неплохо получилось. всем спасибо за помощь и участие!
источник

G

Georg in Чат к каналу @begtin
Anton [az09@osm] Belichkov
очень быстро всё скачалось
Но учитывайте что базу саму он не вышрузил
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
базу чего?
источник

G

Georg in Чат к каналу @begtin
Сайта, он же вероятно не статичный
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
"рация на танке" ))
я вижу только один раздел - транспорт онлайн - не статичный. но скорее всего конечно сайт наполняется через админку, т.е. вполне вероятно, что база всё же существует. к сожалению в этих вещах я ТОЖЕ не разбираюсь )
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
а вот и нашлась первая потеря: docs папка не скачалась. вот тут doc всё ещё ведёт на исходный сайт
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
кириллицу не видит?
источник

IB

Ivan Begtin in Чат к каналу @begtin
Стандартные настройки для архивации выглядят вот так
wget --warc-cdx -b --mirror -w 1 --random-wait -e robots=off --limit-rate=512k --cookies=on --keep-session-cookies --no-check-certificate -v --save-cookies=[domain].cookie.txt -o [domain].log domain --warc-file=[domain]
расшифровка опций:
--mirror - зеркалирование сайта, чтобы можно было делать оффлайн навигацию
--warc-cdx - генерировать CDX файл для WARC файла
--warc-file - сохранение сайта в единый WARC файл веб архива
--save-cookies - файл для сохранения кук
--keep-session-cookies - сохранять сессионные куки
--cookies - поддерживать куки
--limit-rate - ограничивать выгрузку этим лимитом
-w 1 - пауза между запросами в секундах, для сайтов имеющих блокировки по частоте запросов
-e robots=off - игнорировать инструкции в robots.txt
--random-wait - произвольное время ожидания между запросами, для сайтов умеющих отслеживать ожидание
-b - запуск на заднем фоне (background)
-v - подробный вывод о запросах
--no-check-certificate - не проверять https сертификаты, помогает когда сертификаты устаревают или невалидны
-o - файл для вывода логов
[domain] - название домена
источник

IB

Ivan Begtin in Чат к каналу @begtin
итоговый файл .warc можно проигрывать с помощью программы webrecorder-player https://github.com/webrecorder/webrecorder-player
источник

G

Georg in Чат к каналу @begtin
Anton [az09@osm] Belichkov
"рация на танке" ))
я вижу только один раздел - транспорт онлайн - не статичный. но скорее всего конечно сайт наполняется через админку, т.е. вполне вероятно, что база всё же существует. к сожалению в этих вещах я ТОЖЕ не разбираюсь )
А можете ссылку на транспорт онлайн дать
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
Georg
А можете ссылку на транспорт онлайн дать
она там чуть ли не самая первая, меню с нее начинается. комп уже выключил, извините
источник

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
да там насколько увидел все ссылки на яндекс ведут(
источник

G

Georg in Чат к каналу @begtin
Anton [az09@osm] Belichkov
она там чуть ли не самая первая, меню с нее начинается. комп уже выключил, извините
Это не из вашей базы , это вам сервис предоставляет оператор мониторинговых данных , скажете ему новое место и он туда перенесет .
источник

G

Georg in Чат к каналу @begtin
Но система так себе если честно
источник
2020 March 09

AB

Anton [az09@osm] Belichkov in Чат к каналу @begtin
Georg
Но система так себе если честно
ни разу не видел какого-либо сравнения, простого даже перечня или мук выбора систем мониторинга. если поделитесь буду благодарен
источник