Речь ведь не о том, чтобы восхищаться такой архитектурой. Decoupled-подходы — это то, с чем иногда приходится программисту мириться, если нужна высокая эффективность работы чипа. Идея в том, чтобы возложить на компилятор заботу о распределении данных по блокам локальной памяти, по управлению DMA-запросами и проч.