История изменений
Исправление alexmaru, (текущая версия) :
там все равно нет смысла вертеть что-то больше
Так скоро увидим. Оно всё же немного компенсируется тем, что это общая память без копирования между RAM <-> VRAM. Если оно будет делать около сотни токенов в секунду, то этого сразу достаточно для разработчика этих самых моделей.
PS: максимальная нагрузка 480 W. Это намного лучше, чем пачка Nvidia видеокарт.
Исходная версия alexmaru, :
там все равно нет смысла вертеть что-то больше
Так скоро увидим. Оно всё же немного компенсируется тем, что это общая память без копирования между RAM <-> VRAM. Если оно будет делать около сотни токенов в секунду, то этого сразу достаточно для разработчика этих самых моделей.