Проблема мб в чем угодно, простите, но у меня нет ни сил, ни желания искать её. Можете начать с драйвера, но вряд ли дело в нем. Есть способы диагностики.
Можно принудительно форсировать сглаживание в конкретных играх с помощью определённых инструментов и проч.
Я бы обратилась на форум Nvidia, где Вам помогут в диагностике проблемы и её устранении (если это возможно, конечно).