Какой фильтр использовать для видео с низким разрешением?

чтобы не было лесенки на видео

Лесенка на видео – это регулярная пространственная частота, следовательно, её можно обнаружить и подавить после БПФ режекторным фильтром в частотной области.
Вместо Фурье можно использовать базис Уолша-Адамара ©.

с низким разрешением

Сейчас модны «улучшайзеры» Super-Resolution Upscaling, например ©.

Так есть под mpv/ffmpeg готовые реализации по первому пункту и второму?

Так есть под mpv/ffmpeg готовые реализации

Вали на offtop с такими постановками вопроса!

Может использовать кратное масштабирование без сглаживания?

Так есть

Бывают простые варианты для коррекции лесенки по всему кадру например от черезстрочной развёртки при панорамировании ©.
Однако для подавления лесенки границ движущихся объектов на неподвижном фоне нужен локально адаптивный фильтр, который сейчас чаще реализуют на нейросети.

готовые реализации

"Вы что, и конфеты за меня есть будете? Ага!" :)

Да никак нормально в реалтайме.

Можешь вон нейронками всякими апскейлить попытаться.

Да я не пытаюсь, а апскейлю, но результат всё-равно неудовлетворительный, увы

эдик, ты опять разлогинился?