Установить vaapi-drivers, убедиться что vainfo выдаёт корректные данные для твоей nvidia. Установить форк драйвера nvidia для vaapi, который поддерживает vp9. Установить браузер chromium, собранный с поддержкой vaapi.
Плохо всё с аппаратным ускорением видео в связке firefox+xorg+nvidia. Аппаратное ускорение видео в файрфокс пока работает только в wayland (пилят и под xorg, но пока из коробки только wayland), пропиетарные драйверы nvidia в свою очередь тоже плохо работают с wayland (как с wayland работает nouveau я не в курсе, не пользуюсь и не интересовался). Так что остаются либо танцы с бубнами и патчами над vaapi, файрфоксом и хромым, либо переход на nouveau и wayland (один полурабочий кусок г-на + второй полурабочий кусок = два куска).
А ещё можно подождать пока допилят ускорение в firefox под xorg. Судя по тому что писал iRinat там всё на финальной стадии. Его наработки не приняли, напилили что то своё, но работы ведутся. Менять видеокарту из за того что не работает ускорение видео в браузере, при том что кроме браузера оно везде работает, это всё таки слишком радикально мне кажется.
А ещё можно подождать пока допилят ускорение в firefox под xorg. Судя по тому что писал iRinat там всё на финальной стадии. Его наработки не приняли, напилили что то своё, но работы ведутся. Менять видеокарту из за того что не работает ускорение видео в браузере, при том что кроме браузера оно везде работает, это всё таки слишком радикально мне кажется.
Так проблема не в этом. А в том, что используется VDPAU.
В патченном Chromium уже много лет используется VAAPI с иксами. И с частыми отвалами с апдейтами по Intel и AMD.
С Nvidia же всё на порядок хуже на эту тему, потому что надо ещё обмазываться дополнительными прослойками, так что серьезно рассматривать этот вариант в ближайшее пять лет точно не стоит.
Верить и ждать можно, когда есть заинтересованная сторона в этом.
В случае Chromium — заинтересованы Intel и Google. Они пропихивают VAAPI для задействования в хромобуках и это критически важно. На принципах объедков это достаётся десктопным линуксами и AMD.
В случае с Firefox — в реализации VAAPI заинтересованы RedHat и Mozilla, ибо это важно для линуксовых ноутбуков.
Смотри ютуб через внешний плеер. Например, smplayer. В настройках плеера нужно указать поддерживаемый твоей видеокартой API, обеспечивающий аппаратное ускорение. Если этот вариант тебя не устраивает, ставь винду или смотри ютуб в меньшем разрешении. С vdpau (API, используемый в Nvidia) в линуксовых браузерах все плохо. va-api, используемый Intel, с недавних пор официально поддерживается в огнелисе, но только в вяленной сессии. Но благодаря усилиям i-rinat можно получить работающее ускорение и в иксах, для этого нужно наложить патч. Хромиум неофициально поддерживает va-api. Есть репозитарий с патченным хромиумом для убунты.
Короче, vdpau в браузерах поддерживается чуть менее, чем никак. Нужно использовать плеер. Кстати, для огнелиса был плагин, позволяющий открывать видео в отдельном окне mpv (еще один плеер). Собсна, матчасть
Wayland сессия скорее всего нормально заработает или в Plasma или в Gnome, потому что Sway (аналог i3 под Xorg) работает официально только с открытыми драйверами (nouveau для нвидии). Firefox имеет настройки
widget.wayland-dmabuf-vaapi.enabled
widget.wayland-dmabuf-webgl.enabled
Чтобы ускорение заработало достаточно включить эти две опции, или же вместо webgl можно использовать webrender.
Под блоб нвидии лучше патченый хромиум, а то к глюкам браузерного ускорения еще и глюки вайленда добавятся.
А лучше как и говорили в плеере видео смотреть, есть и расширения для браузера и программы просмотра ютуба( хоть гугл и гадит постоянно, но пока выкручиваются)
For proprietary NVIDIA support via VDPAU install chromium-vaapiAUR or get compiled version from Unofficial user repositories instead. Additionally installing libva-vdpau-driver-chromiumAUR or libva-vdpau-driver-vp9-gitAUR is required.