IPSec это фреймворк, не протокол, который в числе прочего описывает три протокола IKE (IKEv1 и IKEv2), AHv3 и ESPv3 в текущих версиях RFC.
И два основных метода реализации IPSec фреймворка применительно к тому, каким образом применяются политики к IP пакетам, это с помощью политик, как в Mikrotik или с помощью маршрутизации.
Это очень упрощённо, в деталях всё конечно гораздо сложнее.