Выбор и настройка связки для веб-сервера

Рекомендую всё же nginx+php-fpm. Тебе же не постоянно настраивать. 1 раз настроил и крутится.

А так естественно без оптимизации никуда. На nginx настрой отдачу статики. Ну и кто знает как там у тебя скрипты написаны, вдруг всё печально.

что без апача и его htaccess никуда

Правила реврайтов без проблем переписываются реврайтами nginx. Мало того, инетах есть нотовые настройки под все популярные движки. Еще и есть онайновые конвертеры htaccess -> реврайты nginx.

4 ядра от i7-3930K, 14G RAM, SAS 1TB

До задницы конфигурация VPS-ки. Работать она будет настолько быстро, насколько ей выставят приоритет в гипервизоре. Нищебродские VPS-ки даже хороших конфигураций порой тормозят безбожно.

Ставь ning+php-fpm. Реврайты легко настраиваются.

От apache действительно невозможно отказаться, т.к. сервером буду пользоваться не только я

На самом деле это плохо. К серверу вообще не должны иметь доступ больше пары человек, а уж тем более некомпетентных и близко подпускать нельзя. Ну как говорится, «хозяин - барин».

Мне просто для интереса, что другие будут делать на сервере с apache? Редиректы настраивать?

Задача состоит в организации небольшого хостинга для использования внутри определённого круга людей, у них доступ только по ftp и по вебморде (vestacp)

у nginx есть свои средства rewrite не хуже чем у апача, так что не вижу особой необходимости городить бутерброды.