Я в своё время для похожего использовал IDA. В ней лучше видно что и в какой последовательности выполняется. Можно например найти защиту, на которую вы напарываетесь. Но в ней нельзя редактировать (по крайней мере я не нашёл). Поэтому я изучал в ней, а изменял в olldbg. В результате убрал вообще всю проверку ключа.