🚀 @SBERLOGA продолжает онлайны доклады по NLP (Natural Language Processing)
👨‍🔬 Eгор Плотников (Сбер) "Снова про управление мамонтами, или как заставить языковую модель генерировать нужный нам текст."
⌚️ Четверг 22 июля, 19.00 по Москве


За последние несколько лет генеративные модели в NLP сделали большой шаг вперед. Сейчас языковые модели могут без проблем порождать связный, релевантный текст либо с нуля, либо путем завершения отрывка, начатого пользователем. Однако в стандартной постановке задачи человек имеет достаточно слабый контроль над итоговым результатом генерации. Например, было бы неплохо уметь задавать тему, которой должен соответствовать текст, эмоциональную окраску, стиль повествования и т.д. В данном докладе будет рассмотрено несколько статей, так или иначе решающих эту проблему:
https://arxiv.org/abs/1909.05858 "CTRL: A Conditional Transformer Language Model for Controllable Generation"
https://arxiv.org/abs/1912.02164 "Plug and Play Language Models: A Simple Approach to Controlled Text Generation"…

Генеративная русскоязычная нейросетевая модель представлена в открытом доступе на 760 млн и 1,3 млрд параметров. Модели ruGPT-3 умеют продолжать тексты на русском и частично на английском языках, а также программный код.

На вебинаре показываем, как дообучить модель ruGPT-3 на живых данных в платформе ML Space и задеплоить модель в пару кликов на высокопроизводительной инфраструктуре SberCloud.
Рассказываем о кейсах рыночных компаний: как они используют ruGPT-3 в боевом режиме,и как ruGPT-3 помогла в соревнованиях в рамках крупнейшей в России конференцией по компьютерной лингвистике Диалог.

Спикер: Татьяна Шаврина, Лидер команды AGI NLP Sber