Вывод видео через X сервер

Однако видно видеовывод нестандартно как то организован и выводиться на HDMI.

ты то сам хоть понял что написал?

Наверное, ты хочешь Xvfb - он использует виртуальный фреймбуфер вместо реальной видеокарточки, и к нему можно подключиться по VNC.

Вполне возможно что производительности перестанет хватаить, из за копирования декодированных кадров из декодера обратно в память вместо прямого вывода.

да безусловно, упрощенно щас обьясню - при запуске видео оно выводиться как бы поверх текущего X и из-за этого через vnc картинку не видно

очень возможно ,это все таки не топовый arm (

Overlay? Он масштабируется отдельно, а во фреймбуффере на этом месте только картинка с ключевым цветом. Если нет возможности в плеере выводить в текстуру, картинку обратно не забрать никак.