архитектура и профиль нагрузки системы известны?
десятки серверов зачем нужны?
разбиваем компоненты системы на типы нагрузки (пропорции потребления CPU, Net, IO, GPU), дальше смотрим как эти компоненты масштабируются и от чего зависит потребление по типам ресурсов
пытаемся это смоделировать либо на коленке
тупо сколько RPS -> сколько CPU, RAM, Net, I/O + Space
дальше натягиваем сову на глобус в смысле "а какие у нас есть сервера, VPS и как это ложится на те ресурсы которые мы рассчитали"
либо по серьезному
http://www.interface.ru/home.asp?artId=8416