Допустим, есть UNIX-сокет. Туда одно приложение периодически пишет JPEG изображения одинакового разрешения. Требуется как-то заставить ffmpeg забирать оттуда кадры по мере их появления там и стримить через ffserver. Я уже научился делать это, если в качестве источника выступает вебкамера или набор JPEG-файлов на диске, так что со второй частью проблем быть не должно.
В принципе можно читать не из UNIX-сокета, а из stdin (cat video.socket | ffmpeg ...).