Нужно красивое решение (или вообще любое толстое пойдёт)

Ты пустой стол будешь транслировать, или на этом столе еще что-то будет происходить?
Если пустой, то хватит.

справка ютуба написана чужими для хищников. Если стрим с сервера на ютуб идет по RTMP, то нет никаких проблем настроить ffmpeg или gstreamer.

такой конфигурации точно хватит.

Если софтовый энкод на каком нибудь ультрафасте, то вероятно хватит. Памяти там в пределах 500-900М нужно. Но вообще, чтобы не грузить машину и не терять отзывчивость и для стабиьного фпс, я бы нашёл способ задействовать какой нибудь из аппаратных энкодеров.