Короче, там скрипт патчит собственную память процесса в котором он интерпретируется, перехватывает вызов функции msgbox и обрабатывает содержимое окна. Дальше думаю все понятно.
Блииин, нет. Я наврал. Конкретно этот метод создает новый процесс, который автоматически перезапускается и проверяет наличие окна с ошибкой. Днище, блин.
Я использовал другую реализацию, вот там все как описано, через winapi перехватывалась функция msgbox.