Качество видео при записи с Xvfb

Скорее всего, проблема не в дисплее, а в кодировщике. 60 fps у тебя локально могли получаться из-за использования видеокарты через vaapi для кодирования видео. На сервере же у тебя выбора нет, кроме как использовать процессор, а всякие готовые пакеты, как правило, используют неоптимизированные настройки кодирования видео на процессоре и перегружают его.

Попробуй написать нужную утилиту сам. У тебя есть Chromium или Firefox, есть Selenium Webdriver, есть ffmpeg, у которого есть входное устройство x11grab. См. https://trac.ffmpeg.org/wiki/Capture/Desktop и https://trac.ffmpeg.org/wiki/Encode/H.264, главная настройка, которая тебе нужна, это -preset ultrafast, и поиграться с -crf на предмет качества. Т.е.:

ffmpeg -video_size 1920x1080 -framerate 60 -f x11grab -i :0.0 -preset ultrafast -tune animation -crf 22 -r 60 test.mp4

По поводу Xvfb и других. Выбор на самом деле есть:

• Xvfb
• Xorg + dummy driver, см. https://xpra.org/xorg.conf
• Xorg + modesetting driver + vkms или vgem, см. https://dri.freedesktop.org/docs/drm/gpu/vkms.html - но, как я понимаю, это в docker не положить.

Для всяких облачных десктопов компания, на которую я недавнего времени работал, использовала решение (2), по соображениям совместимости со всяким глупым софтом.

Важно: использовать десктоп без композитинга. Т.е. XFCE или MATE + выключить композитинг в настройках.

Интересно что если делать 720p 60fps - то он справляется https://www.youtube.com/watch?v=eJBahPNRyzk

Спасибо за варианты, попробую