Как прослушать диалог между гостем и USB модемом (sms, ussd)

https://www.kernel.org/doc/Documentation/usb/usbmon.txt

Тебе не очень это и нужно.
Вот отсюда видно, что виноват modemmanager, неготовый к тому, что в порт валятся «левые» unsolicited responses и принимающий их за неверный ответ.
Как отключить именно этот класс - только в документации по твоему модему.
Как поправить modemmanager - ищи.

Один порт постоянно разговариет, но думаю можно для запросов использовать другой порт, но как ему сказать с каким портом работать?

Да, отловил, но легче не стало.
Вот — AT+CUSD=1,"AA180C3602",15  — Запрос *100#

Короче нашел временное решение, перед запросом отправляем на модем команду echo -en 'AT^CURC=0\r\n' > /dev/ttyUSB1