Web Optimized Video и mencoder

Для начала стоит сразу отказаться от mencoder'а, ибо поддержка вывода в mp4 у него сломана, а так как mencoder имеет статус unmaintained, то и исправлять ее никто не собирается. Заменить можно либо на x264+GPAC/L-SMASH, либо на ffmpeg.

А непосредственно по теме, под «*.MP4 web optimized видео», как я понимаю, имеется в виду файл с индексом (moov atom) в начале? Для этого в составе ffmpeg есть утилита qt-faststart или же можно просто ремуксить файл с помощью mp4box. Ни mencoder, ни x264, ни ffmpeg предсказать заранее сколько займет индекс в результирующем файле по вполне очевидным причинам не могут.

Вы абсолютно верно меня поняли. Спасибо за содержательный ответ.