Делаю в один проход:
mencoder dvd://1 -ovc lavc -lavcopts vcodec=mpeg4:vbitrate=800 -oac mp3lame -lameopts vbr=3 -o movie.avi
Можно, конечно, и в два-три прохода, но качество _значительно_ не увеличивается. Более-менее нормальное качество получается только при битрейте >= 1500, но мне надо ~700MB. Вероятно, надо использовать дополнительные опции (которых у mencoder'а куча, только сложно в них разобраться :). К тому же желательно уменьшить размер картинки, но опция -vop scale не очень то спасает - картинка уменьшается, а мерзкие квадраты остаются :) Поделитесь пожалуйста опытом, ведь как-то делают один CD в неплохом видео-качестве (про звук молчу - мне хватит и mp3 :)
P.S. MPlayer-1.0pre4.