У нас мл-щики код адекватный на питоне тоже писать не могли, пришлось их дружить с обычными бэкендерами для рефакторинга и приведения сервиса в поддерживаемое состояние

Занимаемся мониторингом датчиков с бурильных установок в нефтянке/газе. Данных много, показываем в реалтайме, оптимизировали как сам мл блок так и постгрес, буквально вот закончили, летает все.

Да. Классификаторы, рекоммендеры, детекторы аномалий, в таком роде.

Прошу прощения, выше уже пару раз ответил.

Ну вот мы сейчас такой эксперимент проводим. Боец предложил решение, которое на каждый запрос к сервису ходит в базу без индекса и результат не кэширует) Но мы держимся, не сдаёмся)

Да, вижу уже, история не сразу подтянулась. В целом, можно попробовать с вами обсудить детали голосом, если интересно )

*нормально все, надо просто деньгами немного залить*. Шутка... хотя подход распространенный конечно.

:D

у нас под ml-щиков только ro-реплики поэтому)

Не, я все таки пожалуй наброшу - а нет у вас чувства, что требования к элегантным решениям и всяким оптимизациям остались где-то за пределами меинстрима индустрии и нужны или в МЯСО\ФААНГ (местами), или в маленьких, но гордых компаниях, у которых просто нет достаточно денег, а в остальных случаях все просто заливается деньгами в виде серверов\сервисов\whatever.
Ну то есть казалось бы тоже себе подход, рабочий вполне, но он кажется преобретает какие-то нездоровые масштабы.

Просто хочется понять - это мое искаженное корпорейтом восприятие, или оно и правда все так?

Он на чтение ходил, обогащал фичи(

У нас например рекоммендер учится на лету. Потому что мемасики - это очень пластичная среда, звёзды в ней загораются и гаснут за считанные сутки. Время обучения модели должно быть в пределах длины сессии лояльного пользователя, то есть порядка 30 минут, чтобы мы успели ему показать весь свежак, персонализированный под него. Там сейчас 12 GPU-серверов трудится. Дальше, кажется, уже некуда заливать (и срезы станут слишком узкими, а значит качество рекомендаций упадёт).

Ого, вы сервис мемасиков пилите?

А можно поглядеть?)

Задумался как такое отследить инструментами…

вообще не думать про оптимизацию самого главного (доступа к бд и банальных деталей хтпп) пока что невозможно нигде (точнее, как мы видим, возможно, но с резким ухудшением качества того, что получается). писать какие-то супер-магические вещи и движки - в большинстве случаев это достаточно придумать (выбрать) один раз, в том числе и в условном гугле, деленном на capita сотрудников

Спасибо)

Code review тут лучший инструмент.