Там в другом вопрос был - куча генеренных wp страниц с хвостами, вот никто не пользуется...меня техническая сторона вопроса интересует - если их ввести, будет ли расходоваться краулинговый бюджет.
я может что не понимаю в вопросе твоём, ну вот в хелпе что - "Робот Яндекса, используя эту директиву, не будет многократно перезагружать дублирующуюся информацию. Таким образом, увеличится эффективность обхода вашего сайта, снизится нагрузка на сервер."
ну и ответ гугла - Google рассказал, что такое краулинговый бюджет. Представитель компании Гэри Илш опубликовал подробный пост, посвященный этой теме. В нем он объяснил, что понимается под этим термином, какие факторы могут влиять на краулинговый бюджет, что такое скорость сканирования и краулинговый спрос.
Как рассказал Илш, большинству сайтов не стоит беспокоиться о краулинговом бюджете. Обращать внимание на бюджет сканирования стоит только крупным сайтам.