напрашивался еще вариант с лямбдами в aws + api gateway, но там тоже все мутно с синхронизацией, надо в динамодб сокеты класть и вообще каждый месадж внутри выполняется как http запрос к лямбде, ну такоэ
Ну вот мы отскейлили же) У нас любые чаты и даже любые realms подключаются к балансеру (nginx, он же ssl-терминатор), который раскидывает уже по кластеру. А fanout между ними живёт - каждый сервер знает, кто к кому подключен сейчас.