Как записывать звук с альсы?

Погугли про alsa loopback. Настроишь в asoundrc. Второй вариант (не требующий таких движений) — шнурок из линейного выхода в линейный вход.

Alsa loopback можно настроить так, чтобы и записывался звук, и в наушниках играл? Что-то не нашел.

Да, там возможен транзит. Гугли лучше. В asoundrc распишешь.

Если у вас есть возможность установить PulseAudio, то лучше сделать именно это. С Alsa Loopback у вас, во-первых, не будет возможности переконфигурировать все это добро на лету, а во-вторых, запись будет заканчиваться, когда устройство закроется.

Собственно, нужно ffmpeg'ом подхватить проигрываемый альсой звук

обязательно ffmpeg'ом? Лучше ssr (SimpleScreenRecorder).

при том, что аудиокарта не умеет mixer channel

А пульс не поможет?

аудиокарта не умеет

все ползунки подними до 50 и ещё раз проверь