Нет такой поддержки в ffserver и ffmpeg не умеет кодировать QuickTime.

# Format of the stream : you can choose among:

# mpeg : MPEG-1 multiplexed video and audio

# mpegvideo : only MPEG-1 video

# mp2 : MPEG-2 audio (use AudioCodec to select layer 2 and 3 codec)

# ogg : Ogg format (Vorbis audio codec)

# rm : RealNetworks-compatible stream. Multiplexed audio and video.

# ra : RealNetworks-compatible stream. Audio only.

# mpjpeg : Multipart JPEG (works with Netscape without any plugin)

# jpeg : Generate a single JPEG image.

# asf : ASF compatible streaming (Windows Media Player format).

# swf : Macromedia Flash compatible stream

# avi : AVI format (MPEG-4 video, MPEG audio sound)

А где ж ев списке flv? А он то работает =)

Очень странно....

А у меня вот что показывает:

$ ffmpeg -formats
...........
E mov mov format
D mov,mp4,m4a,3gp,3g2,mj2 QuickTime/MPEG4/Motion JPEG 2000 format
...........

Может быть дело в ключах, заданных при сборке?

Пробовал вещать в формате mp4 с кодеком libx264. Не вещает =(

на всякий случай, несколько ссылок, примерно относящихся к теме:

Трансляция потока с веб-камеры с помощью VLC Трансляция потока с веб-камеры с помощью ffserver Самостоятельная установка последних FFmpeg и x264 на примере Ubuntu Скринкастинг в Linux (FFmpeg)

В общем, пример работы с vlc и с ffserver. Самостоятельная сборка ffmpeg и прочего окольного. И в «скринкастинге» несколько примеров использования кодеков.