По поводу 3D программирования...
В общем-то я не видел кодогенераторов, которые по заданной формуле умеют генерировать код, хотя это намного проще. Точнее чтобы в лоб генерировал - это дело часа максимум, а вот с включением параллелизации при суммировании по i на MPI, а суммирование по j - OpenMP/OpenACC с захватом всех нужных переменных я не видел... При этом матрица F_{nm} может иметь как треугольное, так и полное представление квадратной матрицы.