Оптимизация скорости модемного соединения

Сабж - не состояние, это процесс :)

Под Linux достаточно 2-х основных: pppd и chat. Плюс, естественно, документация по командам твоего модема, исследование логов и вспомогательные скрипты. У меня, например, иногда pppd "зависает" в некотором состоянии - ни коннекта, ни дисконнекта. Написал контролирующий скрипт, повесил в cron. В случае такого состояния, скрипт перезапускает pppd.

Оптимизация делается под каждого провайдера отдельно. Подбор телефонов из модемного пула, всяческих MTU, таймаутов, ограничений на допустимую скорость, на набор протоколов и т.п. На то она и оптимизация, что точно сказать, что надо делать - почти невозможно заранее. Иначе бы давно всю эту оптимизацию сделали стандартными настройками.

Дополнительно рекумендую squid с отрезанием баннеров.

Параметры ppp Mru, mtu регулируется через /etc/ppp/options.
Добавляешь
mtu 576
mru 576
Числа подбирай сам. Обычно все виндошные програмки пытаются выставить
чила приведённые выше.
Настройка tcpip стека производятся через /proc/sys/net.
Например rmem соответствует recive window