аппаратный h264 кодер для десктопа.

Intel Quick Sync
libvdpau

Есть ли более или менее рабочее решение?

man платы или «коробочки» от AverMedia. А вообще, это специфицеское геймерское железо, его выпускают и другие. Немного, но сейчас становится больше.

libvdpau

А где там это?

А где там это?

Если этого там нет, то какой тогда вообще разговор? Тогда нужно искать специализированную железку.

Насколько знаю, они захватывают в h264 с внешнего источника. А в идеале бы тупо платку в PCI, которой бы через DMA подсоввывать буфера и другой DMAшкой забирать выхлоп.

quicksync, nvenc, vce - выбирай в зависимости от видяхи.

Жать все содержимое экрана в h264 и вещать в сеть.

Платы видеозахвата такое умеют. Возможно, не все, конечно. И не уверен насчёт кодека (почему-то кажется, что там скорее mpeg2).

так есть или нет?
Вот в vaapi на интеле пишет что есть сжатие аппаратно.

Насколько знаю, они захватывают в h264 с внешнего источника.

Да, hdmi в разрыв. Но я не думаю, что это проблема. Вы же не боитесь ухудшения качества цифрового сигнала? ;-)

Есть и преимущество, кодирование и сохранение вне компа или на внешний источник позволяет иметь нулевое влияние на генерирующий картинку комп.

Впрочем, это не важно, про встроенные аппаратные кодеки я ничего не знаю в любом случае.

Вот в vaapi на интеле пишет что есть сжатие аппаратно.

Если учесть, что у Intel все встроено в проц - не знаю, можно ли это считать аппаратным. :)

Или хотя бы либа, чтобы решение накостылять на коленке самому.

https://developer.nvidia.com/nvidia-video-codec-sdk
посмотри это оно?
вот там даже 2 кодировщика, вроде бы.

https://developer.nvidia.com/nvidia-video-codec-sdk#gpulist

Хм, спасибо будем посмотреть. Интересно, не будет ли оно мешаться OpenGL'ному приложению. (Задача - сценку которую рендерит самопал на Ogre3D передавать по сети на одноплатник, который будет прикручен к шлему VR 9-DOF трекером). Да, думаю запилить себе голодек. С блекджеком)

А зачем видео сжимать? Еще профиль кодирования x264 попроще грузит процессор существенно меньше.

NVENC вроде не должен мешать.