Посоветуйте железо для подкроватного сервера ИИ

для подкроватного

Raspberry Pi 4 https://vc.ru/dev/1764209-kak-zapustit-sobstvennuyu-neiroset-na-raspberry-pi-... или Raspberry Pi Zero https://3dnews.ru/1118461/sovremennuyu-iimodel-zapustili-na-kroshechnom-kompy...

5090 лучше, там 32 Гб памяти. Поставишь 6 шт - норм будет.

Зачем 6? Дораха жы

Это смотря какого размера нейронки гонять. Вариантов мало же, можно вписать всё что есть с >=24 Гб на борту в табличку и посчитать удельную стоимость.

посмотрел цены на аренду, есть конечно и плюсы у аренды

но не потяну

Сервер ИИ завучит как Сервер с Операционной системой, почти все современные LLM сносно работают и без GPU

Ryzen AI Max+ 395 же

Сборка компьютера с 1 Tb RAM

Будешь DeepSeek R1 локально гонять.

Смотря какой ИИ. Я картиночки генерю с 16Гб ОЗУ и 8Гб видеокартой. Комп лично мне обошёлся в 7 тыс.р.

Озвучь, какой тип ИИ ты хочешь, а них у всех разные системные требования. Возможно тебе придётся заказывать кастомную кровать, под которую влезет серверная стойка.

И апгрейдить кондиционер в спальне. Тем более, что лето на носу.

апгрейдить кондиционер

Возможно придется еще заказать дополнительной блок {А,Г,Т}ЭС для кондиционера

HP Z2 Mini G1a Или что то на AMD AI 395+ главное чтобы память была LPDDR5x-8533

Карточки уже нет смысла брать, лучше потратить 2.5к$ на вот такого рода вещь

AMD AI 395+

типа можно сделать много памяти и мощная видюха, спасибо

5090 лучше, там 32 Гб памяти. Поставишь 6 шт - норм будет.

Лучше H200

Если вы хотите локального чат-бота, то может хватить и «игрового» компьютера, причем не самого нового. Небольшую модель gpt-j для одного пользователя можно запустить даже на 1050ti.

Лучше всего арендовать LLM в облаке.

Братан, тебе надо более четко задачу сформулировать, может тебе хватит поставить ollama локально и выбрать модельку. А может ты хочешь на миллиардах параметров генерить свою поделку

96 гигов так ещё когда ИИ ненужон можно и поиграть и что то поделать, там 16 ядер 32 потока

У 395+ есть проблема в виде напаянной памяти, выливающаяся в необходимость покупать сразу с 128 на борту.

Это не проблема, это следствие высокой скорости памяти и её типа за 2.5к покупается на 128 гигов оперы, а содимм плашки это шлак

Это не проблема, это следствие высокой скорости памяти и её типа за 2.5к покупается на 128 гигов оперы, а содимм плашки это шлак

Все равно какая-нибудь старая видяшка на 24 гига будет сильно интереснее в этом отношении. Смысла за этим гоняться нет. Оно интересно только непосредственно самим 128, но это не всем нужно.

Ну и для высокой скорости есть LPCAMM2 модули. Так чтто херовое оправдание для напаивания памяти.

Я не на столько богат чтобы покупать старую видяшку на 24 гига)))

А бокс от hp закинул в рюкзак с монитором 16 дюймовым и поехал куда глаза глядят) Захотел запитал от автомобиля, всего 150 ватт в пике а сколько у той видюхи и сколько ещё нужно иметь кроме видюхи?

Воооот

При таком раскладе проще ноут на том же 395+ брать. :) Ибо юзкейс ну совершенно другой.

А так-то сетап с видяшкой тоже вполне влезает в рюкзак, ибо боксы с окулинком никто не отменял.

К боксу ещё не забудь блок питания ватт эдак на 700)))))))))

А ноут на 396 будет в рамках максимум 70ватт задушенный камушек, в любом случае на 70 ваттах он будет адски греться и будет в будущем отвал и деградация как текстолита так и самого кристала

Так что бокс типа hp за свои деньги лучшее решение что можно найти

Так что бокс типа hp за свои деньги лучшее решение что можно найти

Неудобное решение в описанном тобой юзкейсе.

покажи где я описал какой то юзкейс)))))

А бокс от hp закинул в рюкзак с монитором 16 дюймовым и поехал куда глаза глядят) Захотел запитал от автомобиля

Вот тут ты его описал.