Я бы даже сказал что не так часто встретишь оптимизацию, которая какой-нибудь тест не ухудшит :) Да, в этом плане от математики тут далеко
Но это не значит, что настоящая оптимизация в компиляторах невозможна. Я много встречаю работ по реализации генераторов кода. Вот там есть линейное целочисленное программирование и прочие серьезные штуки, которые, кстати говоря, и логично отнести к области "формальной компиляции".