В общем, может будет кому интересно. Проблему с неподключающейся виндой и 809 ошибкой решили с помощью провайдера.
Проблема заключалась в том, что все устройства (iPhone, mac, android, linux, etc) подключались и замечательно работали с L2TP IPSec. Все, все, кроме винды. Винда (пробовали на 7 и на 10). Выдавала 809 ошибку. При этом, в ходе тестирования дома был поднят ВПН сервер с аналогичными настройками и к нему винда подключалась на ура.
Методом тыка (гуглением) нашлась статья
https://social.technet.microsoft.com/Forums/ru-RU/12ccd1ab-f8c0-4e56-b1bd-cf35ec6945d6/105510881080-ip-10xxx-gt-105410961080107310821072-809?forum=ws2008r2ruВ которой поднимался интересный вопрос про VPN сервер и серую адресацию. В ходе эксперимента установили что дома белый IP-адресс а в проблемном месте тоже белый IP адрес но есть провайдеровский нат (
10.0.0.2 <=> white IP). Попробовали подключиться по VPN через резервный канал - все прошло успешно что 10 что 7 винда подключились без запинки. Сделав заявку к провайдеру, отказались от NAT.
К информации, в ходе экспериментов меняли значение ключей реестра. Грубо говоря по вот этой статье
https://set-os.ru/vpn-error-809-windows/И после установки значения 2 ключу
AssumeUDPEncapsulationContextOnSendRule на винде 10 подключение стало работать. Что дает установка этого значения, как я понял весь трафик ipsec загоняет в 4500 порт.
Спасибо хочу сказать
@luntik_the_best и
@Zakharov_Aleksey за помощь в решении задачи.