Проблема только в том , что моделька принимает тензор и выдает тензор. Т.е. из картиночки которую тебе послали на сервак надо сделать тензор.

Да ты и картинку до порта можешь дотащить, что мешает.

А потом ее из порта вернуть могу. И все это хозяйство по дороге может поломаться

ну может, да. но у тебя есть твой клей над портами, который эту ситуацию способен обрабатывать разными способами.
и это всё еще проще, чем делать всё это на питоне.

а на эрланге/эликсире все равно обработку никто не будет писать уже, всё.
даже в джави всякий тензорфлоу и прочее мышиное облучение есть только из-за андроида, так-то оно никому не надо больше.

о, я тут заглянул в гитхаб и вижу, что самая полезная либа с корнями в районе эликсира - sbroker - не обновлялась с 2017, всё.

Поэтому в свое время я сделал ноду на го, заэмбеддил в нее питон и все стали жить счастливо. У меня кейс был ровно такой же, 500ГБ в день данных нужно было через нейронки протаскивать. С портами я хапнул горя, так что их даже в расчёт не брал.

я не могу себе представить ни одной причины, кроме лютого, фанатичного, не мотивированного ничем кроме иррациональных эмоций желания использовать Go и фантастически бездарного управления сверху, позволяющего выбрасывать деньги работодателя на такую фигню (если это конечно не pet project, которому не место в продакшне), как делать на Go ноду для того, чтобы в неё втыкать питон и оттуда уже что-то там дергать.


500 гигабайт в день для нейросеток — это немало, но не особо много. В видео на три порядка больше и нормуль, всё засовывается из кода на эрланге.

Тебе просто очень очень хочется воткнуть свою реализацию эрланговской ноды на Go хоть куда-нибудь. Нейросети и питон тут не при чём

напомнило одну картинку про буханку хлеба )

или у тебя есть в команде люди, которые могут питон переписать на C/C++, отладить это, убрать утечки и сделать это с четким пониманием _зачем_ эта трата времени, или у тебя их нет.

Если у тебя текстовые нейросетки, в которых не нужно предпроцессить данные перед засовыванием, то непонятно чего вообще от питона отказываться.

Лучше потратить эти силы на налаживание CI у датасатанистов, чтобы они знали, что тебе сдавать

Согласен. Не особо понятно зачем еще один слой наверх всего этого. Реально можно наклепать twisted нод, если совсем уж боль с портами

Я пока что не встречал задачи, где не нужен препроцессинг данных. Тензорфлоу не умеет токенизировать сам, так что даже в nlp нужен препроцессинг. Или я чего-то не знаю?

Дело на самомделе нужное и полезное, это большой запас потенциальной энергии. Крутой кач специалиста. Потом это можно кудато использовать. По другому школу и экспертизу не накачаешь. Короче это называется академический интерес

мне стало сильно легче, когда я помог аналитикам четко разграничить апи, которое они отдают и собрать на него хоть какие-то тесты.

У нас есть специфика с видео: надо перегнать жатый поток на карту, там его разжать (раз так в 50-100 примерно) и потом засунуть в нейросеть.

Если ошибиться и сделать это на разных устройствах, то перфоманс системы падает во много раз. Это серьезно, потому что мы стандартные либы для нейросеток в этом плане дорабатывали, убирая из них случайную обработку данных на процессоре.

Максим, однажды ты дорастешь до момента, когда поймёшь, что одним молотком дом не построить. Внезапно откроешь для себя возможности конвергентных решений. Ты предлагаешь писать на с или плюсах, но ты же знаешь что это в конечном счёте будет дороже, чем на том же го написать. Я не навязываю своё мнение, просто делюсь своим опытом.
И да, зачем нода на го? Ровно для тех узких мест, где ерланг сосёт. А сосёт он по перформансу оч много где. На след неделе я выпущу релиз и сможешь сам убедиться, что реализация у ералнга задуманных технологий весьма неэффективна.
Возможно, в какой-то момент ты осознаешь, что проще взять решение дающее х5..х10 , чем вычкабливать несколько % из бим машины

это скорее я не знаю, чего происходит с препроцессингом в той задаче, которой ты занят.

Я имел ввиду такую ситуацию, когда есть кусок кода на питоне, копирующий картинку и его заменяют на кусок кода на CUDA, делающий то же самое и в этом месте у нас fps растет на 30%

Просто хотя бы потому что данные на одном устройстве обрабатываются, а не копируются по шине памяти.

Спорить с тобой не буду. Но и открыто обсирать чей-то труд не могу позволить

Послушай, ты, ополоумевшее хамло. Ты несешь свою ахинею с нодой на go уже не первый месяц, рассказывая какие-то нелепые бредни про 500 гигабайт в день.

К сожалению, тебя здесь нельзя забанить, чтобы не видеть твой бред, но хамить ты тоже не смей.

Внезапно, хамишь тут ты.

bash + perl? bash + c?  go + python+ erlang?

И эта ахинея в 500гб в день сейчас работает в >20 компаниях от Касперского. Твое ЧСВ видимо не позволяет признать , что кто-то умеет делать такие проекты, кроме тебя