M
Спасибо, доктор. С меня 5000 иен?
Size: a a a
2020 December 17
AT
мультимодальность - это когда у нас есть работа с разными "модами" одновременно, те текст и что-то ещё (звук, картинки, итд)
ИЯ
я занимаюсь NLP и в курсе про это всё -_-
сначала подумала не про то нлп.
f
мультимодальность - это когда у нас есть работа с разными "модами" одновременно, те текст и что-то ещё (звук, картинки, итд)
А, ну это да, потенциально проблема
AT
"научилась кодить приложения" - это небольшие сниппеты по 20 байт с ошибками иногда выводит
AT
потому что в текстах для обучения были небольшие примеры, и как языковая модель она неплохо работает с именами
AT
но как только даже текст становится чуть чуть длиннее, и то уже проблемы с когерентностью дискурса
AT
да, скорее всего такое улучшится в будущем
f
"научилась кодить приложения" - это небольшие сниппеты по 20 байт с ошибками иногда выводит
Ну так или иначе уже ж удивительно что может хотя бы это, прошлая гтп могла тооько в текст, а эта уже столько умеет, мне просто кажется что через несколько итераций с учётом темпа её роста она сможет намного более фантастические вещи. Ну по крайней мере этот подход выглядит самым перспективным на данный момент, не знаю других моделей которые могли бы быть настолько универсальны.
AT
по поводу того что "рисовать что угодно", это они просто натренировали такой же трансформер (в качестве "языковой модели") на картинках
AT
без текста
PT
нужен чат для нлп срочно
AT
имхо, универсальные модели нежизнеспособны, нужна куча специализированных, но связанных друг с другом
f
по поводу того что "рисовать что угодно", это они просто натренировали такой же трансформер (в качестве "языковой модели") на картинках
Ну понятно, но она ж с этой системой научилась додумывать картинки умнее любой другой сети которая создавалась для картинок. Надо ебашить её на все остальные задачи и смотреть что сможет. А потом потенциально можно будет связывать несколько трансформеров между собой воедино, зрение/слух/понимание речи, и появится та самая модальность)
PT
модальный глагол
AT
Ну понятно, но она ж с этой системой научилась додумывать картинки умнее любой другой сети которая создавалась для картинок. Надо ебашить её на все остальные задачи и смотреть что сможет. А потом потенциально можно будет связывать несколько трансформеров между собой воедино, зрение/слух/понимание речи, и появится та самая модальность)
трасформер хорошая модель, да, я тоже ими пользуюсь, их можно рассматривать как умные конволюции, которые могут учить форму фильтров вместо кучи 3x3 как в картико-моделях
AT
Ну понятно, но она ж с этой системой научилась додумывать картинки умнее любой другой сети которая создавалась для картинок. Надо ебашить её на все остальные задачи и смотреть что сможет. А потом потенциально можно будет связывать несколько трансформеров между собой воедино, зрение/слух/понимание речи, и появится та самая модальность)
проблема в AI в связывании "знаний" с реальным миром, что очень сложно
AT
даже эти "знания" вытаскивать очень сложно
PT
до чего боты умные пошли