FFmpeg, OBS и nvenc

с Shadowplay все в разы проще из-за того, что обработка на видеокарте

она ж оффтопик онли?

Да, тот же виртуалбокс имеет свои средства для записи виртуалки

simplescreenrecorder умеет в NVENC

о, а как? они же все через ffmpeg работают, а тот падает :-)
можно ли как-то пофиксить это? дрова 358.16

При записи что-то пошло не так (nvnenc, nvenc_h264, MKV, MP4 + AAC, MP3)

Если я правильно понял тему, автор хочет енкодить H.264 на видяшке по CUDA API. В CUDA API reference, по крайней мере года 2 назад, енкодинг таковой был заявлен только для винды - в линуксовых хедерах не было объявлений, в либах не было символов от функций. Нарыли где-то MainConcept-овский codec SDK, и там была функция кодирования H264 с использованием CUDA. По результатам тестирования, MainConcept полностью грузил одно ядро ксеона (может, больше - не помню), работал на равных с x264 скоростях только на довольно низком качестве, и имел довольно небольшой диапазон вариантов качества (очень хорошее качество получить не представлялось возможным). Мой вердикт - x264 лучше.

Не CUDA, а nvenc
Это как PureVideo, когда декодинг на аппаратном уровне, только тут наоборот - энкодинг
Под виндой это все работает на примере ShadowPlay, когда видео в играх захватывается без просадок ФПС
Даже Bandicam научился в nvenc и это дает дикий прирост в фреймрейте
Мне игры не нужны, я хочу захватывать экран и вести стримы
Но вот проц слабый, что бы его грузить такой штукой

[nvenc @ 0x1bb6200] >> dl_fn->cu_init(0) - failed with error code 0x3e7

Щас вот спросили «сколько у тебя FPS в Dota 2 на убунте», пошёл в убунту, компильнул ffmpeg 2.7.6. И вижу эту ошибку! При этом в Opensuse и Gentoo работает. Это странно... Я запишу в другом дистрибутиве Linux, но просили-то именно убунту.

Херню не неси, на gtx 950 700-1500кадров/сек с hq пресетом кодирует, качество хорошее.