IPTABLES от А до Я для чайника

Для начала почитай Зиглера - Брандмауэры в Linux - он, конечно, протух и не по iptables, а по ipchains, но прочитав эту книгу ты будешь знать матчасть, а там и iptables настроить труда не составит

1. Забыть про VDS, установить виртуалки и на них изучать
2. iptables tutorial например http://www.opennet.ru/docs/RUS/iptables/ не последняя, но очень годная, а дальше все равно только по нарастающей, частями, по мере возникновения не стандартных ситуаций.

и не по iptables, а по ipchains

Мне кажется не стоит. Лично мне достаточно тяжело было переехать после ipfw потом ipchains на iptables, пока не потратил время на курение того же iptables tutorial

Как вариант, полистать вот это. Не от А до Я конечно, но самая база там есть. Вообще iptables тот ещё монстр, и что бы в нём понимать, нужно очень много практики. Ну и туториал.

Благодарю за отклики. Вы правы, что стоит поставить на виртуалку 3 центоса и между ними гонять трафик и обрабатывать его с помощью IPTABLES и за одно смотреть в wireshark. До этого IPTABLES, я просто отключал. Но накурившись протоколов Ethernet, IP, TCP, увидел там много флагов и прочих то ли использующихся, то ли не использующихся полей (об этом кстати все пишут по разному). Так пришел к тому, что хорошо бы самому понять, что из этих «то ли использующихся то ли нет полей и прочего», на самом деле может быть полезным. Пробежавшись по верхушкам IPTABLES, увидал знакомые «вещи» из IP + TCP (как раз те, которые упоминались, как не важные для общих вопросов передачи данных). Пока заинтересовался вопросами маркировки и трассировки трафика. Так как сетевые гуру, как раз пишут о том, что эти функции практически не поддерживаются на провайдерском сетевом оборудовании. Если кто то делал что то практическое в этом направлении - просьба отписаться. И еще около-iptables_овский вопрос - есть какой то софт, в котором можно вручную собирать Ethernet-кадры, TCP/IP-пакеты с нужными флагами, что бы их отправлять поштучно и смотреть что произойдет в логах IPTABLES и wireshark?

есть какой то софт, в котором можно вручную собирать Ethernet-кадры

ЕМНИП Wireshark умеет собирать ethernet-кадры.

Дело в том, что переезжая с ipfw на ipchains и так далее вы уже понимали принципы работы файрволов - что такое цепочки, таблицы и правила, а эта книга помогает разобраться в этих понятиях, да и дает некоторое понимание основ работы с сетью под онтопиком. Как мне кажется - это лучшая книга для новичка

http://citforum.ru/

Еще советую перед тем как лезть в iptables, изучить netfilter. Тогда появляется перк: iptables можно будет написать самому на коленке, а изучать его и вовсе не придется, все будет понятно итак.