Я проделывал немного обратную задачу. Искал сигнатуру для конкретного антивируса. Резал файл по 1 байту, каждому присваивал HEX адрес и после натравливал антивирус на весь скоп.
Например, условно малварь весит 100 байт. Разрезаем файл по байту, получается 100 файлов.
Проверяем 100 файлов антивирусом, он в определённом однобайтовом файле детектит заразу. Этот байт и будет являться сигнатурой. Дальше смотрим в дебаггере функцию / место на этом адресе и понимаем сигнатуру антивируса.