Всем привет. Сегодня попробовал бесплатно зарегистрироваться на
https://ahrefs.com/. Не получилось. Дескать, бот не может попасть на сайт.
Я проверяю здесь:
https://ahrefs.com/robot/site-auditДа, выдается, что бот не попадает.
Я написал в техподдержку. Они ответили:
t can be some kind of security plugin/webserver settings enabled on your end or your hosting blocking our user agent.
Please, make sure, that our IPs are whitelisted and AhrefsBot & AhrefsSiteAudit user agents are allowed for crawling
Ну, я вообще не знаю. Роботс у меня вот такой:
User-agent: *
Disallow: /cgi-bin
Disallow: /?
Disallow: /wp-
Disallow: /wp/
Disallow: *?s=
Disallow: *&s=
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */trackback
Disallow: /tag/
Disallow: /ad/*
Disallow: /polzovatelskoe-soglashenie/
Disallow: */feed
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Disallow: *utm*=
Disallow: *openstat=
Disallow: */uploads
Allow: /index.php?yandex_feed=news
User-agent: AhrefsSiteAudit
Allow: /
User-agent: AhrefsBot
Disallow: /
А Хостер - бегет. Может, хостеру позвоню сейчас. Ну, кто может резать этого бота?