/gpt3  Найдите генератрису та асимптотический рост для последовательности

Найдите генератрису та асимптотический рост для последовательности.

Вроде всё есть в Кормене

ну тебе надо чтобы в пространстве Bow/BERT эмбеддингов расстояние действительно было тем, которое ты замеряешь

глянь sentence bert

кажется, что для bow/tfidf косинусное расстояние норм

не совсем понял, что значит расстояние = то, что я замеряю?  можешь пояснить плз?
upd.
а, имеется в виду что векторное пространство в которое происходит отображение, снабждено нужным мне расстоянием/метрикой? а как это понять? или обеспечить? скалряное=>косинусное же в любом случае будет для эмбеддингов? а другие?

ну обычные BERT эмбеддинги не обучены на косинусное расстояние например
То есть "похожие" предложения не обязательно будут близки по cosine distance

а по какому принципу понимать что модель предназчена/обучена на определенное расстояние d, или определять на какие?
т.е. допустим, я решаю задачу англ-язычная QA и хочу взять модель, например зайду сюда https://huggingface.co/models?pipeline_tag=question-answering
как понять и  выбрать какую-то из них, чтобы 1) там было расстояние d 2) она мне выдавала эмбеддинги, которые можно семантически сравнивать по d?
это надо отдельно искать по каждому bert/distilbert/xlm и понимать под что оно?

и по какой метрике для bert тогда лучше сравнивать тексты? на медиуме вон cosine считают)

есть модификация берта через сиамские сети (sentence bert), посмотри его

там тренится на cosine как раз, поэтому логичнее всего брать её

Можно взять набор пар текстов, в которых эксперты определили величину семантического сходства

Затем на тех же парах получить сходство с помощью своей модели

Наконец, посчитать корреляцию Спирмена на получившихся последовательностях чисел

но из коробки на самом деле он работает так себе, так что если нет разметки (и денег на разметку),  чтобы его дообучить, то лучше смотри в сторону дефолтных методов типа tf-idf + cosine

ты читал че я выше блять писал?

соси

ну ладно

Шо за огресия такая