Size: a a a

Natural Language Processing

2020 November 06

OA

Oluwaseun Alagbe in Natural Language Processing
Sergey L
speaking about a microcontrollers only. If you have smth really simple it goes ok, because almost chip micros has very small resources and has implementation limits. the next lvl is a kind of small portable pc (or processor), as raspberry or may be mobile phones processors for example (because  they are powerful and chip enougth even for launching deep networks like CNN).
If your question is about hardware. The exception from the rule are processors in mobile phones for example, because they are powerfull enough for now.
hope it helps)
I really dont wanna use my mobile phone.
I'm actually on an innovation project and I need to build it on an embedded device.
Would raspberry pi would work fine for that?
источник

OA

Oluwaseun Alagbe in Natural Language Processing
Oluwaseun Alagbe
I really dont wanna use my mobile phone.
I'm actually on an innovation project and I need to build it on an embedded device.
Would raspberry pi would work fine for that?
Where can I get that?
источник

OA

Oluwaseun Alagbe in Natural Language Processing
Sergey Dulikov
You may want to read about Knowledge Distillation, it is often used to transfer models to small devices.
I'd check google about that
Thanks so much
источник

SL

Sergey L in Natural Language Processing
Oluwaseun Alagbe
I really dont wanna use my mobile phone.
I'm actually on an innovation project and I need to build it on an embedded device.
Would raspberry pi would work fine for that?
think yes, nevertheless the community is much bigger and there will be more examples to check. as my opinion
источник

OA

Oluwaseun Alagbe in Natural Language Processing
Sergey L
think yes, nevertheless the community is much bigger and there will be more examples to check. as my opinion
Okay
Thanks so so much for this
источник

DD

David Dale in Natural Language Processing
Maxim
Добрый день!
Я использую NER для английского языка из SpaCy из коробки - en_core_web_lg. Мне хотелось бы выделять организации и имена из текста, но мне важнее recall, чем precision. На тестовом корпусе у меня Recall=86. Есть ли возможность в spacy поменять порог уверенности, чтобы получить больше 90? В Гугле нашел только вариант с beam_search, но как я понял это не совсем то и замедляет работу.
Насколько я понимаю, вот где-то здесь сидит моделька, которой делается инференс.
https://github.com/explosion/spaCy/blob/master/spacy/pipeline/pipes.pyx
В какой-то момент в ней вычисляются скоры разных IOB меток для токенов, и можно сделать патч, который бы искусственно занижал скор для тега О перед финальным софтмаксом. Либо вписать этот патч в код, либо докопаться до параметров модели и поменять bias для этого нейрона. Тогда метка О будет предсказыааться реже, а все остальные, соответствующие сущностям - чаще.
источник

M

Maxim in Natural Language Processing
David Dale
Насколько я понимаю, вот где-то здесь сидит моделька, которой делается инференс.
https://github.com/explosion/spaCy/blob/master/spacy/pipeline/pipes.pyx
В какой-то момент в ней вычисляются скоры разных IOB меток для токенов, и можно сделать патч, который бы искусственно занижал скор для тега О перед финальным софтмаксом. Либо вписать этот патч в код, либо докопаться до параметров модели и поменять bias для этого нейрона. Тогда метка О будет предсказыааться реже, а все остальные, соответствующие сущностям - чаще.
Спасибо! Буду смотреть!
источник
2020 November 07

DS

Damir Safix in Natural Language Processing
есть полная инструкция как поставить себе на комп ru-gpt3 и gpt-2?
так и не понял как поставить скачал python 3.6, anaconda (но там только для python 3.8 было, скачал).
я делал по инструкции для gpt-2, поставил гитхаб себе на компьютер, коммандная строка не воспринимает git clone
я хотел на убунту на виртуалку поставить, не получилось её установить вообщем, хочу на винду поставить 10
Так же хотелось со временем её обучить (но для начала сначала поставить) я видел облака, где по минутам можно за GPU платить и не понял как поставить скачал python 3.6, anaconda (но там только для python 3.8 было, скачал).
я делал по инструкции для gpt-2, поставил гитхаб себе на компьютер, коммандная строка не воспринимает git clone
я хотел на убунту на виртуалку поставить, не получилось её установить вообщем, хочу на винду поставить 10
Так же хотелось со временем её обучить (но для начала сначала поставить) я видел облака, где по минутам можно за GPU платить и не понял как поставить скачал python 3.6, anaconda (но там только для python 3.8 было, скачал).
я делал по инструкции для gpt-2, поставил гитхаб себе на компьютер, коммандная строка не воспринимает git clone
я хотел на убунту на виртуалку поставить, не получилось её установить вообщем, хочу на винду поставить 10
так же хотелось со временем её обучить (но для начала сначала поставить) я видел облака гугла где по минутам можно за GPU платить
источник

G

Gwyneth in Natural Language Processing
о_о
источник

BS

Bogdan Salyp in Natural Language Processing
Облака слишком дорого, имхо
источник

BS

Bogdan Salyp in Natural Language Processing
$12 в час
источник

BS

Bogdan Salyp in Natural Language Processing
После установки git под винду точно должен работать git clone, как минимум в powershell
Сам ставил неделю назад
источник

DS

Damir Safix in Natural Language Processing
(base) C:\>Start | Anaconda3 | Anaconda Prompt
"Anaconda3" не является внутренней или внешней
командой, исполняемой программой или пакетным файлом.
источник

RS

Ruslan Sabirov in Natural Language Processing
Damir Safix
есть полная инструкция как поставить себе на комп ru-gpt3 и gpt-2?
так и не понял как поставить скачал python 3.6, anaconda (но там только для python 3.8 было, скачал).
я делал по инструкции для gpt-2, поставил гитхаб себе на компьютер, коммандная строка не воспринимает git clone
я хотел на убунту на виртуалку поставить, не получилось её установить вообщем, хочу на винду поставить 10
Так же хотелось со временем её обучить (но для начала сначала поставить) я видел облака, где по минутам можно за GPU платить и не понял как поставить скачал python 3.6, anaconda (но там только для python 3.8 было, скачал).
я делал по инструкции для gpt-2, поставил гитхаб себе на компьютер, коммандная строка не воспринимает git clone
я хотел на убунту на виртуалку поставить, не получилось её установить вообщем, хочу на винду поставить 10
Так же хотелось со временем её обучить (но для начала сначала поставить) я видел облака, где по минутам можно за GPU платить и не понял как поставить скачал python 3.6, anaconda (но там только для python 3.8 было, скачал).
я делал по инструкции для gpt-2, поставил гитхаб себе на компьютер, коммандная строка не воспринимает git clone
я хотел на убунту на виртуалку поставить, не получилось её установить вообщем, хочу на винду поставить 10
так же хотелось со временем её обучить (но для начала сначала поставить) я видел облака гугла где по минутам можно за GPU платить
Может ты ставил клиент гита, а не сам гит? Что именно ставил?
источник

DS

Damir Safix in Natural Language Processing
да похоже
источник

SD

Sergey Dulikov in Natural Language Processing
Bogdan Salyp
$12 в час
Это какие-то неправильные облака, $0.2-$0.5/час vast.ai
источник

BS

Bogdan Salyp in Natural Language Processing
А какие гпу?
источник

SD

Sergey Dulikov in Natural Language Processing
$0.2 - 2080 Ti, до $0.5 Tesla V100, 3090
источник

YB

Yuri Baburov in Natural Language Processing
Sergey Dulikov
Это какие-то неправильные облака, $0.2-$0.5/час vast.ai
Там только диска мало было для некоторых задач. (Я ни одного инстанса с терабайтным диском не нашёл). А так -- хорош, да.
источник

SD

Sergey Dulikov in Natural Language Processing
Да, сейчас самый большой доступный 700гб и тот на 1080 Ti
источник