А уже спрашивали какова может быть допустимая погрешность значения результата?

Я спрашивал, сколько значений можно потерять по дороге, это примерно о том же)

а клиенты - что? браузеры? мобилки или iot вообще?
может троттлить на клиенте както... мы так делаем, если например у человека открыто несколько табов к одному приложению - поднимаем один вебсокет на всех плюс замедлаяем рейт сообщений (батчами)

мобильные браузеры

насколько я понимаю - дело не в троттлинге (не то что бы мы не справляемся с нагрузкой от сообщений) а в том, что просто так никто даже 1м сокетов не тянет, нужно что-то делать чтобы все пользователи одновременно могли хотя бы открыть ws соединение

погоди, я думал что lua в redis, это как хранимки в pg.....

какова допустимая погрешность и задержка в актуальности уже выяснили у бизнеса? =)

Я бы просто собрал прототип на быстром языке (например rust + tokio-tungstenite) и протестил как это работает. Кодить там несколько часов, зато сразу есть от чего оттолкнуться по производительности. 40-50k - думаю это очень занижено, реально легко добиться 10x (если не 100x). Зависит много от чего еще, например будет ли там своя терминация TLS, какие требования по graceful restart и тд. Есть ощущение что тут какого-то особого каскада строить не нужно, несколько серверов могут выдавать несколько потоков, которые уже доаггрегировать в elexir или через какой-нибудь redis

сколько-то сообщений потерять можно, как бы описать систему не вдаваясь особо в детали - на каждом клиенте происходит определенный процесс с некоторой "частотой" событий, он генерирует регулярный поток сообщений на сервер с коэффициентом интенсивности своего процесса.  Ну скажем - "сколько сотрясений телефона в секунду" ну или другую телеметрию  Сервер агрегирует все значения по всем клиентам и  выдает усредненное значение, температуру по больнице. Терять что-то вполне можно, если это в пределах, скажем, 1% . Простое правило - чтобы потери не изменяли цифру, получаемую сервером, "значительно". При количестве клиентов даже в 100к, это 1000 клиентов временно потерять - никто не заметит..

прототип уже есть, работает. Есть физические ограничения серверов получающих вебсокет соединения, 40-50к это ограничения на количество открытых tcp сокетов на хосте на каждый IP, горлышко в сетевом стеке а не в Cpu/mem. Каскад - как вариант решить проблему именно открытых сокетов.

вроде же должна быть уникальна именно пара remote ip + local port

Кто такое ограничение накладывает?

так что если только из-за NAT не придёт 40-50к клиентов с ОДНОГО IP

то должно прокатить

я думаю такое только в Китае может быть)

с учётом того что у любого провайдера много IP для NAT

хотя мб я что-то путаю

Всем привет!

У нас У нас 30 июня-1 июля будет неконференция по Цифровой доступности – будем говорить о том, как выявить потребности людей с особенностями, как учесть эти потребности на сайтах, приложениях, и нужно ли вообще учитывать особенности таких маленьких групп людей.

Очень интересная программа и классные спикеры. Мероприятия бесплатное. Просветительское. Может кому-то из вас было бы интересно принято участие.

https://te-st.ru/events/unconf-accessebility/

сегодня - https://docs.digitalocean.com/products/networking/load-balancers/#plans-and-pricing