не помню деталей, я не в этой команде работал. Но вроде бы монолитный сервис чата распилили на несколько сервисов, часть из которых на Scala. Ускорить по CPU вроде бы

Нет, задача была ускорить MUC.

Который сильно мутабелен.

Особенно огромные комнаты.

Примерно то, что описано в блоге дискорда.

Кидали ссылку совсем недавно.

С мук проблема есть, но не из-за мутабельности стейта, а из-за того, что данные трудно бродкастить. На некотором уровне они уже не влезают в гигабитную сеть.

Врочем, есть мнение, что комнаты на 100к участников не особо нужны :)

Уж теперь да.

Подход дискорда мы повторили. И комната на 50к участников с рейтом сообщений 5 в секунду работает на одной ноде.

Дальше мы уперлись, но варианты еще есть.

вслысле сделали список на rust?

Если будет понимание, что нужны комнаты еще больше, то сделаем.

Нет

а  в чем повторение подхода?

У них в блоге был описан подход к бродкасту в кластере.

Вместо того, чтобы просто отправлять сообщения на 100к процессов, разбросаных по 10 нодам, отправляется по одному сообщению на каждую ноду, вместе со списком пидов-получателей. И дальше делается бродкаст уже в рамках одной ноды.

Это для чатовых комнат прям must have

похоже на проблему, которую мы решали с массовым обслуживанием клиентов по rtmp.  Там каждый кадр надо рассылать всем и под каждого клиента его модифицировать.

Т.е. при 25 fps, получается 40 кадров в секунду и на 3000 клиентов получается 120 тыс сообщений в секунду (с большим пейлоадом и персональной обработкой каждого сообщения).

Учитывая, что таргет стоит уже давно в районе 10-15 тыс клиентов, то понятно что надо было думать как жить с 600 тыс сообщений в секунду.

А потом все перешли на HLS и количество сообщений в системе упало в 200 раз =)

Да и для рассылки presence тоже актуально. У многих большой список контактов.