Я когда-то использовал, проблем с расширением прилоения модами вообще нет никаких. Проблема только описать контракт (интерфейс взаимодействия всех ДЛЛ и твоей приложухи) Нужно продумать точки входа и т.д.
создавай просто отдельные проекты с DLL с нужным функционалом, такие либы так же динамически будут подгружаться при использовании, но тебе не надо еб*ся с точками пересечения