Вы задаёте очень интересный вопрос в заголовке сообщения. Ответ же будет содержаться в теле сообщения, обрезанном настолько, сколько букв в вашем :)

Раньше была опция VideoRAM в xorg.conf, но в последних драйверах её кажется убрали и оставили только автоопределение.

Раньше мне не хватало частоты RAM, и я специально выбирал видеокарту, память которой я смогу использовать вместе с системной.

это какбэ в биосе настраивается. По крайней мере, у меня так

Combo breaker

ЕМНИП, это делает BIOS. По крайней мере, у меня так.

Re: Если я буду использовать встроенный GPU, в Linux можно настраивать делегирование ему памяти?

Зависит от видеокарты, если есть опция в BIOS - можно, если нет - с Nvidia Quadro NVS 140m, по крайней мере, нельзя