Хозяйке на заметку: если вам нужно относительно качественно перефразировать предложение, можно сделать это методом back-translation: перевести его русского на английский и назад на русский.
Чтобы не получить на выходе то же самое предложение, можно запретить модели-переводчику воспроизводить n-граммы (токенные), встречавшиеся в исходном предложении.
Кажется, получается дёшево и сердито.
import torch
from transformers import FSMTModel, FSMTTokenizer, FSMTForConditionalGeneration
tokenizer = FSMTTokenizer.from_pretrained("facebook/wmt19-en-ru")
model = FSMTForConditionalGeneration.from_pretrained("facebook/wmt19-en-ru")
inverse_tokenizer = FSMTTokenizer.from_pretrained("facebook/wmt19-ru-en")
inverse_model = FSMTForConditionalGeneration.from_pretrained("facebook/wmt19-ru-en")
model.cuda();
inverse_model.cuda();

def paraphrase(text, gram=4, num_beams=5, **kwargs):
   """ Generate a paraphrase using back translation.
   Parameter `gram` denotes size of token n-grams of the original sentence that cannot appear…

Итак, вот тебе блокнот с кросс-атеншном.
Надеюсь, это примерно то, что было нужно)
https://gist.github.com/avidale/85f6b3d294f9ff400ef76f2cc7ec559e

Transition-based parser for Abstract Meaning Representation (AMR) in Pytorch - GitHub - IBM/transition-amr-parser: Transition-based parser for Abstract Meaning Representation (AMR) in Pytorch

Команда Data Phoenix Events приглашает всех, 16 сентября, на вебинар, который будет посвящен переиспользованию ML пайплайнов между проектами