Используют(могут ли) иксы оперативку вместо VRAM?

0

1

Кратко: Есть Gemma-3-12b-it, заряженная на машину с 32 ГБ DDR4 и GTX 1060 на 6 гигов. Разгрузка на видеокарту неполная(17/48 слоёв), даже хуже, чем у Qwen 2.5B-14b-Instruct. Иксы съедают около 100 мегабайт видеопамяти, что равно ещё одному слою для разгрузки на ГПУ. Было бы вообще круто взять вторую видеокарту и оставить её выводить картинку, а 1060 полностью выделить под LLM. Я так и собираюсь сделать, чтобы картинка выходила с карты от AMD(что-то вроде RX550, может чуть слабее), но ни одной идеальной карты на Б/У рынке, по хорошей цене, и с поддержкой UEFI я не нашёл. Помню, как на винде ОЗУ сама выделялась на случай нехватки видеопамяти. Я пытался найти что-то такое про линукс, но либо как-то не так искал, либо чудес не бывает.

Я точно не могу никак выгрузить иксы в оперативку, чтобы освободить VRAM?

←	SDDM и DBUS

Вопрос по настройке полосы прокрутки gtk

→

← 1 2 →

Ответ на: комментарий от Dimez 20.03.25 18:40:37 MSK

$: sudo parted /dev/sdc p
Модель: Kingston DataTraveler 2.0 (scsi)
Диск /dev/sdc: 1017MB
Размер сектора (логич./физич.): 512B/512B
Таблица разделов: gpt
Флаги диска:

Номер  Начало  Конец   Размер  Файловая система  Имя  Флаги
 1     1049kB  1016MB  1015MB  ext2

$: sudo grub-install /dev/sdc --target=i386-pc
Выполняется установка для платформы i386-pc.
grub-install: предупреждение: метка раздела GPT не имеет BIOS Boot Partition; встраивание невозможно.
grub-install: ошибка: встраивание невозможно, но оно необходимо для междисковой установки.

#####

$: sudo parted /dev/sdc p
Номер  Начало  Конец   Размер  Файловая система  Имя  Флаги
 2     17,4kB  1049kB  1031kB                         bios_grub, legacy_boot
 1     1049kB  1016MB  1015MB  ext2

$: sudo grub-install /dev/sdc --target=i386-pc
Выполняется установка для платформы i386-pc.
Установка завершена. Ошибок нет.

ALiEN175
(20.03.25 18:49:20 MSK)

Ответ на: комментарий от ALiEN175 20.03.25 18:49:20 MSK

Таблица разделов: gpt

Из-за этого. Накой тебе на мелкой (1017MB) флешке gpt?

Dimez ★★★★★
(20.03.25 19:28:15 MSK)
Последнее исправление: Dimez 20.03.25 19:30:34 MSK (всего исправлений: 2)

Ответ на: комментарий от Dimez 20.03.25 19:28:15 MSK

То, что под рукой было. Просто тест. А EFI-загрузка c MBR не работает. Мы же про EFI говорим?

ALiEN175
(20.03.25 19:35:08 MSK)

Ответ на: комментарий от ALiEN175 20.03.25 19:35:08 MSK

А EFI-загрузка c MBR не работает.

Ты с дуба рухнул? Всегда работала и сейчас работает (под Linux, естественно). И наоборот, CSM-загрузка с gpt тоже работает под Linux. В винде да, чёткое разделение. На UEFI диск, куда ставишь винду, можно иметь только в GPT, на Legacy/CSM только MBR (и на флешки не распространяется)

Dimez ★★★★★
(20.03.25 19:37:04 MSK)
Последнее исправление: Dimez 20.03.25 19:38:59 MSK (всего исправлений: 3)

Ответ на: комментарий от ALiEN175 20.03.25 18:49:20 MSK

просто добавь флаг force, и оно отработает по старому методу, сохраняя список блоков core.img в MBR. (это grub2, grub1 конечно тоже так умеет, если пропатчен на поддержку GPT)

grub-install --target=i386-pc /dev/sda --force -v

grub-install: warning: this GPT partition label contains no BIOS Boot Partition; embedding won't be possible.
grub-install: warning: Embedding is not possible.  GRUB can only be installed in this setup by using blocklists.  However, blocklists are UNRELIABLE and their use is discouraged..
grub-install: info: will leave the core image on the filesystem.
grub-install: info: opening the core image `/boot/grub/i386-pc/core.img'.
grub-install: info: saving <111914,0,4096>.
grub-install: info: saving <129952,0,8192>.
grub-install: info: saving <129970,0,15360>.
grub-install: info: opening the core image `/boot/grub/i386-pc/core.img'.
Installation finished. No error reported.

MirandaUser2
(20.03.25 19:42:01 MSK)

Ответ на: комментарий от MirandaUser2 20.03.25 19:42:01 MSK

О, интересно, о такой особенности не знал, спасибо!

However, blocklists are UNRELIABLE and their use is discouraged

Но лучше так не делать, видимо.

Dimez ★★★★★
(20.03.25 19:45:16 MSK)
Последнее исправление: Dimez 20.03.25 19:45:50 MSK (всего исправлений: 1)

Ответ на: комментарий от Dimez 20.03.25 19:37:04 MSK

UEFI загрузка возможна только с GPT-диска. Если материнка видит efi-записи на диске с MBR - значит включен CSM. Проверить в каком режиме загружена система:

[ -d /sys/firmware/efi ] && echo EFI || echo BIOS

GPT-разметка с разделом bios_grub позволяет загружаться с него не только в СSM, а даже на материнках, ничего не знающих о EFI и GPT. Без разницы, диск или флешка.

ALiEN175
(20.03.25 20:31:22 MSK)

Ответ на: комментарий от ALiEN175 20.03.25 20:31:22 MSK

UEFI загрузка возможна только с GPT-диска. Если материнка видит efi-записи на диске с MBR - значит включен CSM.

Чушь. Разумеется нет.

Dimez ★★★★★
(20.03.25 20:35:33 MSK)
Последнее исправление: Dimez 20.03.25 20:37:48 MSK (всего исправлений: 1)

Ответ на: комментарий от MirandaUser2 20.03.25 19:42:01 MSK

Я тоже так развлекался. Вот только нюанс - в легаси и на старых материнках нифига не загружается =)

ALiEN175
(20.03.25 20:36:27 MSK)

Ответ на: комментарий от Dimez 20.03.25 20:35:33 MSK

Ну значит, ваш UEFI так позволяет. Но это уже скорее исключение, чем правило.

It is recommended to always use GPT for UEFI boot, as some UEFI implementations do not support booting to the MBR while in UEFI mode. https://wiki.archlinux.org/title/Partitioning

Недавно переносил системы со старого железа на пяток относительно свежих компов с UEFI - без включенного CSM ни один не увидел загрузочного устройства с MBR - включая и диски, и флешки.

ALiEN175
(20.03.25 20:48:14 MSK)

Ответ на: комментарий от ALiEN175 20.03.25 20:48:14 MSK

Ну значит, ваш UEFI так позволяет. Но это уже скорее исключение, чем правило.

Это любой UEFI такое позволяет.

Недавно переносил системы со старого железа на пяток относительно свежих компов с UEFI - без включенного CSM ни один не увидел загрузочного устройства с MBR - включая и диски, и флешки.

Ты опять путаешь Legacy загрузку и mbr-разметку диска.

Dimez ★★★★★
(20.03.25 21:18:35 MSK)
Последнее исправление: Dimez 20.03.25 21:18:51 MSK (всего исправлений: 1)

Ответ на: комментарий от Dimez 20.03.25 21:18:35 MSK

нет, не путаю. Хотел оставить UEFI без CSM, откусил кусочек места под efi-раздел, флаги поставил, загрузчик скопировал, всё по феншую. Нет, не видит записи. Как только сконвертировал MBR в GPT - всё сразу зашуршало и ранее скопированные загрузчики тут же нашлись.

ALiEN175
(20.03.25 21:29:03 MSK)

Ответ на: комментарий от ALiEN175 20.03.25 21:29:03 MSK

Ну я пока серверов таких не видел. Десктопов и ноутбуков, кстати, тоже. Что за железо, даже интересно?

Dimez ★★★★★
(20.03.25 22:06:25 MSK)

Ответ на: комментарий от Dimez 20.03.25 22:06:25 MSK

Ну какие сервера) Обычные офисники. Конкретные модели я и не упомню. Материнки точно бюджетные. Все - десктопы. ASrock и Gigabyte точно были.

Разовая шабашка была - перенести данные на новые компы.

ALiEN175
(20.03.25 22:13:57 MSK)

Ответ на: комментарий от Dimez 20.03.25 22:06:25 MSK

И кстати да, ноутбук дома у меня старенький, Aspire 5750G, с прошитым биосом h2o с поддержкой uefi. C MBR грузиться в EFI тоже категорически отказывается.

ALiEN175
(20.03.25 22:24:55 MSK)

Ответ на: комментарий от vbcnthfkmnth123 20.03.25 10:19:45 MSK

Ты ещё дисковый кэш наверное постоянно сбрасываешь, потому что он «реализован через жопу, жрет как не в себя».

anonymous
(20.03.25 22:48:16 MSK)

Ответ на: комментарий от ALiEN175 20.03.25 20:36:27 MSK

Разве это не стандартный способ загрузки grub legacy c gpt таблицы разделов?

https://en.wikipedia.org/wiki/GNU_GRUB#Version_0_(GRUB_Legacy)

In case this space is not available (unusual partition table, special disk drivers, GPT or LVM disk) the install of stage 1.5 will fail. The stage 1.5 image contains file system drivers, enabling it to directly load stage 2 from any known location in the filesystem, for example from /boot/grub. Stage 2 will then load the default configuration file and any other modules needed.

У меня почти всё железо по этой схеме грузится через grub legacy.

MirandaUser2
(20.03.25 23:29:34 MSK)
Последнее исправление: MirandaUser2 20.03.25 23:30:36 MSK (всего исправлений: 1)

Ответ на: комментарий от MirandaUser2 20.03.25 23:29:34 MSK

В загруженной системе есть директория /sys/firmware/efi ?

ALiEN175
(20.03.25 23:33:08 MSK)

Ответ на: комментарий от ALiEN175 20.03.25 23:33:08 MSK

Нету. У меня почти всё железо загружается без UEFI.

Вообще gpt патч для grub legacy появился ещё в 2006 г. (https://www.mail-archive.com/bug-grub@gnu.org/msg10632.html).

Возможно в твоем дистрибутиве этот патч не накладывали.

И загрузку grub2 по этой методике (Используют(могут ли) иксы оперативку вместо VRAM? (комментарий)) я проверял только в VM. Возможно на железе есть какие-то проблемы. Хотя это было бы странно, если бы grub2 работал хуже grub legacy.

MirandaUser2
(21.03.25 00:44:24 MSK)

Ответ на: комментарий от MirandaUser2 21.03.25 00:44:24 MSK

У меня почти всё железо загружается без UEFI. Ну тогда зачем вам GPT? Мыши и кактус?

ALiEN175
(21.03.25 00:59:10 MSK)

Ответ на: комментарий от anonymous 20.03.25 22:48:16 MSK

Для использования дискового кеша нужно запустить приложение. Иногда проще использовать tmpfs, чтобы приложение ускорилось к первому запуску и не выгружалось из памяти

vbcnthfkmnth123 ★★★★★
(21.03.25 05:50:06 MSK)

Помню, как на винде ОЗУ сама выделялась на случай нехватки видеопамяти.

Да, венда так умеет, точнее драйвер невидии для венды, а для онтопика они так это и не сделали. Вот на форуме невидии это обсуждают:

https://forums.developer.nvidia.com/t/non-existent-shared-vram-on-nvidia-linu...

Кстати, есть несколько интересных советов. Почитай.

Например вот

Option «AllowSHMPixmaps» «boolean» …

Default: off (shared memory pixmaps are not allowed).

Loki13 ★★★★★
(24.03.25 10:21:31 MSK)
Последнее исправление: Loki13 24.03.25 10:22:18 MSK (всего исправлений: 1)

Ответ на: комментарий от ALiEN175 21.03.25 00:59:10 MSK

Ну тогда зачем вам GPT? Мыши и кактус?

В принципе всё можно держать и на msdos разметке c логическими разделами.
Но я очень давно перешел на gpt.
Насколько я помню, причины были в дополнительной сложности управления: например при конвертации primary разделов в логические и обратно; и ограничениях по загрузке ОС с логических разделов (вроде у FreeBSD).

В случае же GPT разметки - там только у MS Windows ограничения в виде привязки к загрузке в EFI режиме.

MirandaUser2
(30.03.25 15:50:25 MSK)

← 1 2 →

←	SDDM и DBUS

Desktop

Вопрос по настройке полосы прокрутки gtk

→

Похожие темы