AZ
В нейросетях вообще почти никогда не используют l2 регуляризацию сейчас
А что используют? В сетках не очень большого размера :) Можно какую-то статью / review по этому поводу?
Size: a a a
2019 May 15
П
А что используют? В сетках не очень большого размера :) Можно какую-то статью / review по этому поводу?
Дропаут.
П
Если переобучается действительно.
П
Если ты учишь RL, это ещё осознать надо.
П
Может у тебя награда неправильно устроена.
AC
А что используют? В сетках не очень большого размера :) Можно какую-то статью / review по этому поводу?
В теории или на практике?
AC
На практике используют дропаут
AC
+ аугментацию
AC
+ label smoothing
AC
+ доменно-специфичные йобы-бобы
AC
В теории 🅱️айесовские методы всякие
VA
В нейросетях вообще почти никогда не используют l2 регуляризацию сейчас
weight decay не L2 рег?
AC
П
А early stopping делают?
VA
И что прям таки не используют?
П
А early stopping делают?
Он вообще аналогичен регуляризации в сетках или нет?
AC
Что значит аналогичен?
AC
early stopping еще, да
AC
Это один из видов регуляризации
П
Ну для линрега делать early stopping — это то же самое, что делать L2. Спрашиваю, верно ли это для сетей.