Оптимизация VPS на Debian 11 под работу сайтов

Зависит от cms и беканда на котором он работает

Еще ничего не устанавливали, только nginx, apache, mysql + перенесли файлы, но никакие установки не проводили.

Из общих рекомендаций могу посоветовать только iptables настроить до запуска сайта

Есть пример статьи которую вы можете порекомендовать?

А зачем вам одновременно и nginx и apache? Неясна в целом задача. Вы нагрузочное тестирование провели? Во что упёрлись на нагрузке, то и оптимизируйте

Оптимизировать ничего не нужно. Все программы из коробки настроены достаточно хорошо. Не мешайте машине работать. От вас требуется обеспечить регулярное обновление всех компонентов системы.

Единственный нормальный комментарий. Дистрибутив выбран хороший, там нормально собирают все упомянутые пакеты, если уж очень хочется, можно пересобрать с оптимизацией.

Можно поднять Wireguard. Оставить на vps только NGINX.
Он будет делать прокси пасс в апачь. Который будет у вас на физическом сервере в офисе или дома.
Соответственно на VPS только кэш.
На физическом сервере вся вычислительная мощность.
В случае (контакта), прилёта DMCA или закрытия. все данные остаются у вас на носителях.

Зачем в таком случае vps? У можно взять провайдера статический ip.

Не всё оборудование умеет работать со статическими IP.
Плюс кто будет обрабатывать жалобы на вас?
Если провайдер, он всему офису интернет отключит из-за вас.
А на VPS, только один аккаунт.
Плюс это юридические тонкости и списание средств. Свой карман или деньги конторы.
Юридески проще и надёжней арендовать VPS.
Они 24 на 7 сидят и бдят.
А твой провайдер не отреагирует и у тебя будет суд место блокировки. Или блокировка по решению суда по адрессу статического ip.

https://www.k-max.name/linux/netfilter-iptables-v-linux/
https://www.k-max.name/linux/iptables-v-primerax/
https://www.opennet.ru/docs/RUS/iptables/

Если нагрузки небольшие можно вобще только nginx использовать, без апача. Есть сайт крутится под управлением 1с Жиртрикс - nginx, php-fpm, MySQL вполне адекватно работает.