Короче, проблема была в конченном vcpkg - он линковал либы x64-windows, хотя я явно указывал x64-windows-v140, но оба билда были сделаны.
Тип линковались билды буста от MSVC v142, в то время как проект я билдил под MSVC v140 - в итоге оно работало некоректно (зависание, crash).
Я хз, как в этим vpckg нормально залинковать нужные либы, создал issue -
https://github.com/microsoft/vcpkg/issues/18717Пока что как work around указал пути руками.