OptiFine на занимаемую память не влияет (в пределах погрешности разве что).
Вот сколько занимает ванильная 1.12.2 при старте.
А вот 1.7.10.
Это при стандартной дальности прорисовки. Если ее понизить, то еще меньше будет занимать.
После нескольких часов игры прибавляется примерно 200 Мб, я проверял.