Программа для voice-модема

Можно ли на это настроить vgetty?

Вообще, как можно проиграть аудиофайл в телефонную линию через модем?

Предназначение голосовых модемов состоит в том, чтобы либо записвать голосовые сообщения. либо проигрывать по телефону ранее записанные сообщения (иначе говоря что-то типа голосовой почты).
Для разговоров по модемному соединению есть совсем другой софт, который не использует голосовых команд модема (разного рода софт-фоны, гну-митинги и т.д.)
Если интересуют голосовые возможности модема - почитай описание голосовых команд модема, этих описаний полно в и-нете.
Написать программу для модема довольно просто, если знаешь его команды и назначение регистров модема, а также знаком с перлом (под перл есть несколько готовых и довольно неплохих модулей для программирования модемов, на CPAN)
Возможно появились и готовые программы для голосовых модемов под линух, но я не сталкивался. Хотя с перловыми модулями идут демонстрационные и тестовые скрипты, которые вполне можно юзать для некоторых простейших вариантов использования.