Size: a a a

Теория категорий

2019 March 19

TK

Thomas Koster in Теория категорий
Aλice
Мне объяснили профит:
«Читать статьи по НС зачастую непросто. Идеи очень разнообразны, и авторы широко индивидуально применяют способы объяснения своих подходов. Так же варьируются математические нотации. Посмотреть схему обучения, чтобы понять, что в ней делалось, было бы очень удобно. При этом схемы должны быть достаточно ёмки для любой математической идеи».

Я получила ответ на свой вопрос, вдруг еще кому-то интересно
Правильно ли я понял, что профит теорката в НС (с точки зрения того человека*) как минимум в том что предлагает единый язык описания предметной области, что упрощает коммуникацию между людьми?
источник

A

Aλice in Теория категорий
Да
источник

A

Aλice in Теория категорий
Мне кажется, коммуникация упрощается именно для описания параллельных вычислений и масштабируемых систем в машинном обучении
источник

TK

Thomas Koster in Теория категорий
ясно - спасибо
источник

A

Aλice in Теория категорий
Раньше я думала, что цель просто найти универсальный язык, и мне было непонятно, какой процент людей в индустрии свободно владеет языком теории категорий. Потом я еще раз пролистала книгу Милевски и поняла, что это скорее инструмент для описания таких систем, которые сейчас реализованы несовершенно (например, сайд-эффекты вынесены в комментарии)
источник

E

Eugene in Теория категорий
а правда, что теория категорий претендует на новое основание математики?
источник

AZ

Alex Zhukovsky in Теория категорий
единой математики же нет, она из разных разделов состоит
источник

AZ

Alex Zhukovsky in Теория категорий
формальная логика например по идее является более базовой чем теоркат
источник

AG

Alex Gryzlov in Теория категорий
скорее теория типов вроде претендует
источник

ЮБ

Юрий Богомолов in Теория категорий
Eugene
а правда, что теория категорий претендует на новое основание математики?
HoTT претендует.
источник

A

Aλice in Теория категорий
источник

ЕО

Евгений Омельченко in Теория категорий
Eugene
а правда, что теория категорий претендует на новое основание математики?
Если не выходить за рамки классической математики, то язык теории категорий можно использовать как фундаментальный.

Но это удобно только в очень узком круге применений: с одной стороны в ней неудобно задавать всякие безумные универсумы типа кардинала вапенки, а с другой стороны работать с топологией удобнее не становится.

А для интуиционистов скорее теории типов претендуют на новые основания, да
источник

ЕО

Евгений Омельченко in Теория категорий
Если брать теорию типов, то ты наследуешь сразу все стандартные проблемы интуиционизма.

Чтобы работать с вариациями MLTT нужны механизмы практически явного задания рекурсивного ординала в виде типового универсума. Насколько я знаю на практике никто дальше универсума Махло не заходил. Рокет-саенсом тут является пейпер сетзера с его pi3-reflection universe, но я даже игрушечных реализаций не видел.

http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.64.633

В классической математике мы подразумеваем, что некий рекурсивный ординал под теорией есть, но при этом мы очень далеки от его явного задания. Мы просто говорим, что у нашей теории есть арифметическое подмножество и там есть набор доказуемых утверждений об останове машины тьюринга, который покрывается неким (неизвестным нам) рекурсивным ординалом.

А теории расширяются добавлением больших кардинальных чисел, которые громоздить намного проще
источник
2019 March 20

PS

Pavlo Suikov in Теория категорий
Aλice
Дисклеймер: я бекендер, а ML просто хобби. Эвристики используются, это подход, основанный на правилах. Он слишком заточен под данные и задачу, трудоемкий. Нейросети позволяют за дешево приблизить любую функцию по набору данных, но это черный ящик( Методы классического машинного обучения можно объяснить до коэффициента, но ансамбли алгоритмов (randomforest, xgboost) так же неинтерпретируемы, как и нейросети. Да, теория категорий решает проблему интерпретируемости, но становится понятнее не всем. Одна абстракция объясняется через другую абстракцию
теория категорий к интерпретируемости ML-моделей отношения не имеет и непосредственно ничем не помогает. задача symbol grounding требует механизма трансляции, а не обладающего какими-то свойствами языка
источник

A

Aλice in Теория категорий
Pavlo Suikov
теория категорий к интерпретируемости ML-моделей отношения не имеет и непосредственно ничем не помогает. задача symbol grounding требует механизма трансляции, а не обладающего какими-то свойствами языка
Возможно, но я сюда заглянула, чтобы обсуждать и спорить, обмениваться аргументами, а не молча соглашаться с мнениями кого-то более авторитетного. Пока что вы выразили мнение. Объясните, почему. Я подразумеваю под интерпретируемостью ML моделей возможность объяснить до коэффициента их вывод. В каком контексте вы используете термин symbol grounding?
источник

A

Aλice in Теория категорий
Например, в статьях, вроде этой http://cogprints.org/3106/01/sgproblem1.html речь идет про когнитивную лингвистику. Если говорить про смысл слов в контексте ML, то там другое – компьютерная лингвистика (NLP), где смысл слов связан скорее со способом их векторного представления. Что подается на вход модели, а не как объяснить ее вывод. Сейчас популярна дистрибутивная семантика (смысл слова определяется контекстами, в которых оно встречается) и описывается через байесовский вывод, например. Мне кажется, вы что-то другое имеете в виду, ближе к семантике языков программирования
источник

DM

Daniel Matveev in Теория категорий
Aλice
Возможно, но я сюда заглянула, чтобы обсуждать и спорить, обмениваться аргументами, а не молча соглашаться с мнениями кого-то более авторитетного. Пока что вы выразили мнение. Объясните, почему. Я подразумеваю под интерпретируемостью ML моделей возможность объяснить до коэффициента их вывод. В каком контексте вы используете термин symbol grounding?
не понятно как теоркат может помочь в интерпретируемости моделей

* Теоркат о структурах, а не о том что они из себя представляют.
* Модели бывают очень разные. Лог регрессия, глубинное обучение, обучение с подкрепленем - всё очень отличается друг от друга.
источник

DM

Daniel Matveev in Теория категорий
В глубином обучении кажутся возможными применения. В остальных случаях хз.
источник

A

Aλice in Теория категорий
Речь не просто про понимание, потому что для себя аналогии можно с чем угодно проводить
источник

A

Aλice in Теория категорий
А про перспективность для разработки технологий до прикладных продуктов)
источник