Нужна ли иерархическая память в современных серверах? Я говорю о серверах с 10Тб+ памяти. В текущем случае в таких серверах используется Single System Image и NUMA-Q. В NUMA-Q для процессора память и так является иерархической: локальная память, память ноды и память кластера.
Почему бы дальше не пойти: будем подключать очень быструю память ddr4 прямо ко внутреннему контроллеру памяти, а кучу говняной ddr3 выносить кабелем в отдельный системник на свою плату. И у этой памяти будут контроллеры памяти внешние, которые через кабель подключаются к основной материнке. Плюс в такой системе можно будет сменить эти контроллеры на контроллеры следующего поколения. И память тоже.