iptables -A INPUT -p tcp --dport 80 -m conntrack --ctstate ESTABLISHED,RELATED -j ACCEPT
iptables -A INPUT -p tcp --dport 80 -m conntrack --ctstate NEW -m limit --limit 32/sec --limit-burst 32 -j ACCEPT
iptables -P INPUT DROP
данные правила ограничивают количество подключений в секунду. Исходя из каких характеристик сервера рассчитывать максимально возможное количество подключений? С условием, что надо максимально допустимое.