Я не думаю, что это систематизированное знание, это технология и навык. Можно изучать представителей. Например, Mathematica, Maxima, Matlab, Weyl.
Мои личные наблюдения сводятся к тому, что Лисп не нужно прятать: user-end интерфейсы должны достаточно сильно совпадать с теми, которые используются для создания самой системы. Это принцип в целом из Лиспа, а не из CAS. Maxima, например, этому не следует и изобретает свой Алгол для user-end.