Я использую arch linux kde, nvidia driver 470.103.01. И при записи рабочего стола или нативных игр (minecraft, war thunder), NVENC работает без проблем. Но в играх по типу apex legends, GTA V и другие, запись так же нормально идёт через nvenc, но если я пытаюсь запустить запись после 10-20 минут после запуска игры, то выдаётся либо такая ошибка:
Failed to open NVENC codec: Generic error in an external library
либо такая (она кстати чаще):
Check your video drivers are up to date. Try closing other recording software which might be using NVENC such as NVIDIA Shadowplay or Windows 10 Game DVR.
Обновлял драйвер до 510, проблема оставалась.