Там то что вышло - это результат интегрирования по частям
я, к сожалению, не разбираюсь, в том, что у вас там происходит и не хочу вдаваться в дискуссию, но предлагаю подумать вот над каким вопросом:
∇n — является вектором, значит ∫ D∇n u dx тоже.
Судя по тому что вы пишете, палочка не решает проблему, что вы складываете векторы со скалярами. Советую еще раз подумать про граничные условия в диффуре.