ну это в общем.
хочется например вытащить все локации в отдельный список.
или понять что за часть речи adj...

а что, непонятно, что это прилагательное?

ага

это ж не теги из Penn Treebank

ну там с шансами либо по pymorphy, либо по UD

вот этот находила, да, плясала от него

в данном случае UD

Ребят, кто-нибудь находил датасеты с диалогами из сайтов знакомств?

Не совсем с сайта знакомств, но тематика такая же

https://tlk.s3.yandex.net/dataset/TlkPersonaChatRus.zip

С полгода назад пытались для задачи запустить... С одного репозитория под 3 питоном не хотело запускаться, с другого вроде запустилось но результаты немного странные выдавало

Спасибо, вот тоже ничего не получается

посмотрел - последний вариант (который технически запустился но результаты как-то не очень сходились) был с пакетом pylda2vec

Технический доклад Олега Шляжко про то как именно СберДевайсы тренируют RuGPT3 https://youtu.be/GAWADIsBb0Y?t=5094

Выглядит разумным подход внимательно смотреть, что происходит в англоязычном NLP, адаптировать открытые результаты для русского. Архитектуры от OpenAI, фреймворк Microsoft DeepSpeed, Sparse Self-Attention как в OpenAI. Грубо говоря, мало кодить, с ресурсами меньше, чем у OpenAI получить результат как у OpenAI

- Снова расцвет мейнфреймов, вычисления дороже программистов
- https://youtu.be/GAWADIsBb0Y?t=5516 Путь от GPT2 Small до RuGPT3 XL https://huggingface.co/sberbank-ai/rugpt3xl
- Кристофари 200Гб Инфинибенд линки, почти линейный Data Parallel, работает пока модель оптимизатор и данные умещаются на одну GPU
- FP32 Adam 12 байт на вес, Mixed precision FP16 14 байт, Pure FP16 вроде у OpenAI непубличный 6 байт
- Мегабайты на батч, гигабайты на активации, V100 лимит ~2B весов для тренировки
- Megatron-LM, распределенное вычисление тензоров
- Microsoft ZERO, разложить состояние Adam по нескольким GPU
- Microsoft DeepSpeed, фреймворк с трюками выше
- DeepSpeed Offload, выгрузить часть в CPU RAM

Добрый день
Может кто подсказать возможно ли с помощью yargy (из natasha) сделать последовательное выделения, т.е. у меня есть ряд правил, предположим:
(name.interpretation(Inter.name), city.interpretation(Inter.city))
и текст: "Вася родился (много случайного текста) в городе Питер"
Есть ли какое то решение которое сможет сперва выделить тип "name" и после уже искать от найденного дальше при этом с возможностью записывать результат в одну сущность интерпретации?

Хорошего способа нет, есть рабочий немного костыльный, два раза запустить парсер, сначала выделить кусочки, собрать из них новый текст, запустить расер ещё раз https://nbviewer.jupyter.org/github/natasha/yargy/blob/master/docs/cookbook.ipynb#%D0%9F%D1%80%D0%BE%D0%BF%D1%83%D1%81%D1%82%D0%B8%D1%82%D1%8C-%D1%87%D0%B0%D1%81%D1%82%D1%8C-%D1%82%D0%B5%D0%BA%D1%81%D1%82%D0%B0

но тогда интерпретацию нужно писать вручную?

Не, почему, когда запускаешь парсер второй раз, интерпретация работает как обычно, получается одна сущность

Поделитесь, пожалуйста, телеграм-каналами для размещения вакансий по NLP.

кажется, тут когда-то кто-то про жанры спрашивал, тут вот в четверг будет семинар финский с докладчицей из Турку (один из основных NLP-центров Финляндии):
https://www.helsinki.fi/en/helsinki-centre-for-digital-humanities/digital-humanities-research-seminar-0

Подскажите с помощью чего можно найти семантическую близость в графе? Вершины графа название профессий.