и ещё можно бинарные классификаторы строить для каждого типа

Это можно сделать в LinearSVC?

Просто щас не за ПК, а так как я только ковыряю кагл, то не знаю)

я не использовал его, но у его в доке, тоже есть такой аргумент

class_weightdict or ‘balanced’, default=None
Set the parameter C of class i to class_weight[i]*C for SVC. If not given, all classes are supposed to have weight one. The “balanced” mode uses the values of y to automatically adjust weights inversely proportional to class frequencies in the input data as n_samples / (n_classes * np.bincount(y)).

Всем спасибо, @yuri_baburov и за ваш ответ))

еще есть разные методики data augmentation, поищите, успех зависит от сложности ваших текстов

1) брать батчи в которых данные нормализованы
2) случайные батчи но наказание за ошибку ложного отрицания редких классов пропорционально выше

Тексты оч. сложные. Это короткие предложения с кучей неправильных сокращений, длиной около 5 слов. Эмоционально не окрашенные, просто записи типа "есть, завод 65, 2 кг, ультра

мне кажется это как раз просто, сделать замену на синонимы, слова и фразы местами поменять

завод на фабрику, 2 кг на 100 тонн

или сделать какой-то базовый классификатор как есть, наклассифицировать им сырых текстов и выбрать только те, которые с большой вероятностью попадают в свои классы

С заменой попробую, спасибо!

Хотя вроде принадлежность к классу от этого ясней не станет...

я б для начала просто размножил редкие. Пусть они будут одинаковыми, главное чтобы попадались так же часто.

если это не поможет, тогда думать. Но вот именно такой вариант можно взять и попробовать

впрочем нет. Сначала бы я попробовал вообще как есть. И если этого достаточно, то можно больше и ничего не делать. Если получилось плохо, причем именно вида "он всегда дает частые и не дает редкие", то размножить редких и еще раз попробовать.

В моем случае текст "есть, завод 65, 2 кг, ультра" и "есть, завод 65, 2 кг, ультра ном" это категория 1, а "есть, завод 65, 2 кг, УЛЬТРА" и "завод ультр. 65, 2 кг, е-ть" категория 2. То есть даже при ручном труде мы не можем определить категорию чисто из текста, только по заранее предоставленному справочнику. Вот я и хочу чтоб сетка хоть как то попыталась выучить то, какими мелочами различались написания тренировочных образцов и предположила какие могли быть изменения в новых образцах чтоб правильно классифицировать

Если это возможно конечно. Но думаю взять просто максимально большим тренировочным датасетом для начала

когда я классифицировал разные названия продуктов по разным категориям, то у меня очень неравномерно - сортов сыра ощутимо больше, чем разных специй. Но результат все равно нормальный, поэтому больше я с этим ничего не делал

И ещё вопрос, практика будет? Разбор задач, где можно будет задавать вопросы