или она как-то по-умному называется?

А это откуда такая программа?

Это программа Вербицкого же

Он физик и ему тервер нах не нужен

Почему физику теор.вер не нужен?

Потому что дифуры наше все

А стат. физика?

Вербицкий не занимается статфизикой, он струноеб

🔫 Валерий Кожевников кикнут — вернуть этого пользователя можно только разбаном в настройках чата.

Проголосовавшие за кик:
@FishError, @lukovna, @mikhail_evdokimov, Quantum, @k1r1ll0v

Добрый день. Пишу проект для Лиза Алерт (выше я его указывал). Модель я окончательно обучил. Теперь передо мной стоит задача оптимизации:

Сеть - RetinaNet (CV).
Нужно сделать так чтобы как можно быстрее работала в полях на CPU (x86 на ноутбуке хотя бы для начала).

Есть те кто знает как лучше?

Я слышал и немного работал с tensorflow serving.
Также знаю об onnx (по описанию вроде как подходит для Windows).

Также недавно узнал об
Intel Movidius Neural Compute SDK.

Могу заморочиться и переписать все на C)))

Кто то может подсказать как лучше?

P.s. Gui к приложению пишу на c# notnet core. В качестве фреймворка для отрисовки использую кросс платформенный avalonia ui (сейчас он пока в бете, но технология очень интересная. Полноценный wpf на всех платформах. Пробывал тестировал. Gui работает на всех платформах (Windows/Mac/Linux/web/Android), даже в консольном bsd ресует, без ifdef ов и изменения кода).

Проект: https://github.com/gosha20777/rescuer-la

Смотри в сторону возможностей TF-Lite.

Ну вот ещё одно решение.

А чем не подходит onnx / tf serving?

Их так много. Что выбрать? Есть какое то сравнение?

TF Serving — это про то, как модель на сервере запустить.

Тебе нужна квантизация весов.

Тогда это onnx.

Но он работает под Linux?

Да работает.

Спасибо.

Но тут потом нужно после квантизации модель доучивать.