Дело, думаю, не в том, что там много чего надо перепилить, а в том, что это противоречит идеологии, к которой привыкли в современном мире. А именно: опен так-то нужен только для двух вещей -- для оптимизации лукапа файла и проверки всяких прав доступа (чтобы при rw было достаточно только проверить их по маске с теми, которые сохранены в fd) и для того, чтобы приложение знало, что всё с файлом хорошо и можно с ним работать (плюс, для синхронизации с другими процессами в части доступа к файлу). Асинхронный опен ломает эту концепцию в том смысле, что приложение не сможет понять, всё ли нормально. То есть для широких масс такой подход неприменим и асинхронный опен в общем случае сразу за собой будет вызывать блокирующий вызов, чтобы убедиться, что опен получился.
Если всё же пофантазировать, то никто не мешает в частном случае слегка пропатчить ядро (здесь и далее -- в терминах фряшки): во время опена делать только finstall, а в fde добавить флажок, что опен ещё в процессе. Все операции по rw на такой fd ставить в event очередь (так же, как внутри vfs_aio). Если запрос синхронный, то можно также заблокировать процесс, пока опен не закончится. Причем, когда namei (единственное, что может тормозить и из-за чего ты вообще поднял этот разговор) отработает, флажок внутри fde надо поменять либо на «опен успешен», либо на «опен сломался: eperm, enofile, ну и т.д). В зависимости от этого флажка либо позволять, либо не позволять ставить в очередь новые rw реквесты. Если в очереди есть реквесты с этим фд (т.е. когда namei таки выполнится, надо будет пробежать через весь лист), а опен сломался, то на все можно сразу ответить с ошибкой (в смысле, установить готовность и если просят -- отправить нотификацию в тред, что fd готов) и при следующем rw (ровно как и при select/poll/...) уже вернуть, что это не rw сломался, а опен. Очевидно, останется на стороне приложения самостоятельно это ловить и вызывать close для fd, которые не получилось открыть. Make sense?
А что касается инсталляций zos, до которых я могу теоретически дотянуться, там везде стоят dlm, набитые nvme scm и на глаз будет довольно трудно определить, насколько оно тормозит :)
Кстати, в jdl (job description language, если я правильно помню название ЭТОГО) проблемы асинхронного опена нет: любая джоба уже в хедере имеет полный список файлов с которыми работает. Немного не динамичненько, но зато никакие опены не нужны. Вся суть мейнфреймов...