с основным пробовал? может его нестабильность как то влияет, хотя врятли
кстати проверь ты от внешнего работаешь или нет
там вроде по дефолту он автоматом переключается на внутренний генератор, если внешний сбоит
внешний основной на осциллографе выдет 8МГц красивых, + я на МСО проверял потом вывод после всех делителей/множителей, выводит то что я намножил и делил)