Погуглите по словам «навесная защита»
Лучше использовать готовые коммерческие решения для защиты программ, в которых сразу будет защита от отладки, трассировки и выполнения в виртуальной среде.
Собственный велосипед, особенно заказанный на фрилансе скорее всего будет стоить как боинг, требовать постоянной доработки и взламываться тривиальными кракерскими тулами