я ж говорил, кластеризацию не рисовал. не совсем в твою, у меня все таки мэйнстрим всегда в RLock, и единственное когда это будет плохо работать - когда кэш все время растет (и тогда он не нужен)
у меня там в качестве структуры кеша LRU, и оно все время немного меняется, но при этом 70% запросов попадает в кеш