BS
Krep Kospit
А такой вопрос: прочитал, что one-hot кодирование уже неактуально, т.к. есть во фреймворках Embedding - слои. И можно не заниматься созданием гигантских таблиц, а, скажем, пронумеровать все уникальные слова или символы. Это так?
Ну тк концептуально это немного разные вещи
One-hot encoding - это ортогональные друг другу вектора, то есть между закодированными таким образом районами "Soho", "Central park" и "Little Italy" нет никакой связи, так как это будут вектора [1,0,0],[0,1,0],[0,0,1]
В эмбеддинге это будут вектора, например, [0.1,0.2,0.8],[0.2,0.3,0.9] и [0.7,-0.5,0.3] и тут уже можно сказать, что Сохо ближе к центральному парку, чем маленькая Италия
One-hot encoding - это ортогональные друг другу вектора, то есть между закодированными таким образом районами "Soho", "Central park" и "Little Italy" нет никакой связи, так как это будут вектора [1,0,0],[0,1,0],[0,0,1]
В эмбеддинге это будут вектора, например, [0.1,0.2,0.8],[0.2,0.3,0.9] и [0.7,-0.5,0.3] и тут уже можно сказать, что Сохо ближе к центральному парку, чем маленькая Италия