Роут с двух внутренних сетевух на две внешние

sysctl net.ipv4.ip_forward=1

ip rule iif eth0 table 100 pref 100
ip rule iif eth1 table 101 pref 101

ip ro add default via ${eth2_gateway} dev eth2 table 100
ip ro add default via ${eth3_gateway} dev eth3 table 101

iptables -t nat -A POSTROUTNIG -o eth2 -j MASQUERADE
iptables -t nat -A POSTROUTNIG -o eth3 -j MASQUERADE

Еще может понадобиться сделать специальную таблицу для non-pbr, но это долго объяснять и нужно далеко не всегда.

>POSTROUTNIG

POSTROUTING конечно же.

не суй две сетевухи в один броадкаст домен, по крайней мере без

net.ipv4.conf.eth0.arp_filter=1
net.ipv4.conf.eth1.arp_filter=1

А лучше вообще не суй

Что бы не получилась «петля»? Если я добавлю этот фильтр, что он дает?

Что он дает отлично описано в мануалах и гугле. Линукс отвечает на арп запрос со всех интерфейсов, даже тех чьего ИП в запросе нету.

Сделал как вы написали, но всех кидает через один интерфейс, а если его выключить, то все идут через второй интерфейс.

значит не суй. В прошлом топике я писал как делать второй мак на интерфейс, попробуй так.