Size: a a a

Natural Language Processing

2021 July 27

SancheZz Мов in Natural Language Processing
Взять промежуточные выходы с блоков
источник

SancheZz Мов in Natural Language Processing
И к ним дистильнуть
источник

SancheZz Мов in Natural Language Processing
1-3-6-9-12
источник

FF

Futorio Franklin in Natural Language Processing
Это тогда получится дистилляция дистиллированной модели
источник

SancheZz Мов in Natural Language Processing
Не не взять боольшой учитель
источник

SancheZz Мов in Natural Language Processing
И к его
источник

SancheZz Мов in Natural Language Processing
Дотюнить
источник

SancheZz Мов in Natural Language Processing
Тип к 6 промежуточным выходам блока биг учителя дотюнить 6 смолл ученика
источник

SancheZz Мов in Natural Language Processing
Не по последнему стейту
источник

SancheZz Мов in Natural Language Processing
Я обучал классик вообще так
источник

SancheZz Мов in Natural Language Processing
К берту лардж
источник

FF

Futorio Franklin in Natural Language Processing
На mlm?
источник

SancheZz Мов in Natural Language Processing
Не, я брал на даунстрим вместе с  nli таской
источник

SancheZz Мов in Natural Language Processing
Но конечно лучше на млм
источник

FF

Futorio Franklin in Natural Language Processing
А ну это без general дистилляции
источник

FF

Futorio Franklin in Natural Language Processing
Она по статье вроде и не так много докидывает
источник

SancheZz Мов in Natural Language Processing
А так можно попробовать гит fastbert
источник

SancheZz Мов in Natural Language Processing
Для торч
источник

FF

Futorio Franklin in Natural Language Processing
Интересно, спасибо
источник

SancheZz Мов in Natural Language Processing
Переслано от SancheZz Мов
источник