LINUX.ORG.RU
ФорумTalks

CPU, AI и нафига это все нужно

 , ,


0

2

Анонсировали свежие AMD APU,

Читаешь характеристики на официальном сайте, XDNA1 - XAI Engine - PerformanceUp to 16 TOPS.

Дальше, совместными усилиями целых 39 TFLOPS.

https://www.anandtech.com/show/21208/amd-unveils-ryzen-8000g-series-processors-zen-4-apus-for-desktop-with-ryzen-ai

AMD claims provides up to 39 TFLOPS of performance when combining the Ryzen AI NPU, iGPU, and CPU cores.

Мало это или много, и зачем, учитывая, что главным тормозом будет обращение к оперативной памяти, в отличии от нормальных GPU?

Где-то читал, что win12 будет требовать минимальную производительность AI в 50 TOPS, то есть анонсированное - мусор ухе при рождении?

★★★★★

Последнее исправление: One (всего исправлений: 2)

TOPS

TFLOPS

Ты не путай, это разные вещи.

Мало это или много

Средне. А ты что ждал серебряную пулю?

Вообще не понимаю, по какому поводу такая истерика.

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)

Я ничего не понял.

Единственное:

win12

На винфак.

firkax ★★★★★
()

дешево, поиграть во что-то можно, нет лишней железки в виде отдельной видяхи
использую 5700G и мне норм

а, вопрос про ИИ, эт не знаю, что-то читал такое давно про чего-то там про ИИ в процах, но забыл

Ros ★★★★
()
Последнее исправление: Ros (всего исправлений: 2)

то есть анонсированное

Скорее win12

ddidwyll ★★★★
()

when combining the Ryzen AI NPU, iGPU, and CPU cores.

От авторов Crossfire, hybrid crossfire и «у вас в APU терафлопс, а что с ним делать - хз»

devl547 ★★★★★
()

Я так понимаю под аппаратным ускорением Neural Network подразумевают векторные операции над int8 и fp16/bf16, а это значит что по PSP без разницы, передавать одно 32-х битное значение, или четыре 8-и битных – объем данных один и тот же, а количество операций в секунду множится.


P.S. загуглил https://forums.developer.nvidia.com/t/how-to-calculate-tops-int8-or-tflops-fp16-of-each-layer-of-a-cnn-using-tensorrt/180832

Похоже TOPS это операции над int8, а TFLOPS – операции над fp16/bf16.
Неужели все так просто?

Aber ★★★★★
()
Последнее исправление: Aber (всего исправлений: 1)

и зачем

Например, Zoom будет мылить/менять фон усилиями XDNA, а не GPU, который будет только кодировать видео.

DarkAmateur ★★★★
()
Ответ на: комментарий от Aber

Похоже TOPS это операции над int8, а TFLOPS – операции над fp16/bf16.

Некоторые кукурузят до int4, хотя да, стандарт обработка int8

One ★★★★★
() автор топика

Лизка решила Куртку обогнать. У Куртки DLSS, который более менее честно шахматный рендеринг на стероидах делает, а Лизка будет Луну и прочие объекты рисовать как телефоны самсунг делают

DumLemming ★★★
()
Ответ на: комментарий от devl547

Друг на полном серьёзе покупал два радеона с кроссфаером, сказал смысл есть, но к сожалению самих игр где это работает как надо - маловато. Один радик отнёс в магазин в итоге.

yu-boot ★★★★★
()

CPU, AI и нафига это все нужно

Чтобы продать камень подороже, для нормальных людей сделают модели без нейробарахла и наценок

Kolins ★★★★★
()

Где-то читал, что win12 будет требовать минимальную производительность AI в 50 TOPS, то есть анонсированное - мусор ухе при рождении?

Чувствую в будущем я буду похож на героя какого-нибудь произведения в стиле кибер-панк, который имеет сильно отличающийся от обще принятого набор старинного (но полностью устраивающего его) аппаратного, а главное соответствующего аппаратному программного обеспечения, при том всего этого будет этому герою будет хватать для решения всех его задач в том числе и тогдашнего современного.

Ну например уже сейчас меня тошнит всё чаще когда листаешь ленту в соцсетях (кстати эта опухоль поражает не только соцсети но и профильные новостные порталы (т.е.интернет площадки настоящих аккредитованных сми)) - и там админы почти на каждую статью постят рисунок сгенерированный нейросетями.

И это кошмар - я даже не говорю про лица, про пальцы рук, про однообразие тонов и цвета... Иногда кстати руки вывернуты на изнанку - такое тоже видел, т.е. как будто их в плечах сломали. Но не менее этого бесит абсурдность в деталях, дублирование деталях... Конечно, вероятно админы пользуются дешевыми, маломощными бесплатными сервисами, возможно платные делали бы нормально - но тем не менее интернет засерается терабайтами таких высеров нейронок.

А теперь опыт их использования хотят еще и внедрить и в поисковики, и даже в операционку вшить... Ну нахрен, я за нормальный поиск - по ключевым словам и немного по семантике (как это и было до появления нейронок) - дальше листаешь топ и выбираешь - удобно, я не навижу чаты - не хочу в режиме чата получать ответы..

Так же с IDE - то что сейчас есть офигенно - пишешь код и тебе подсказывают просто по тому что ты написал, местами указывают на потенциальные семантические ошибки, ну про синтаксические само собой - все это меня устраивает, но позвольте даже простыню бойлерплейта я с удовольствием напишу сам - за меня не надо её генерировать, даже если это будет 100% символ в символ то что напишу я - не надо лишать меня ни удовольствия ни нейронных связей, т.к. не используемый навык забывается, а когда вдумчиво пишешь даже бойлерплейт, обращая внимание на каждый элемент - то в голове, кроме этого когда еще всегда актуализируется, обновляется, «чувство» языка, фоно осознаешь что и зачем, плюсы и минусы не только языка, но и используемых парадигм как в языке, так и в подходе к решению задачи...

А, когда нейронки начнут генерить многое вместо человека, то большинство разработчиков ждет регресс навыка и все они станут внезапно архитекторами над своим софтом, но не разработчиками.

ну так и вот - будет у меня свой специальный набор железа, софта, без ИИ, и создавать себе то что мне не хватет буду без ИИ :)

Но вероятно и ИИ буду утилитарно использовать, на выделенной железке, которую будет использовать моё основное оборудование как файрволл контента (не сетевой то есть, а более выского уровня). Грубо говоря в ней будет работать нейросеть, задача которой будет оберегать меня от медиа продуктов других нейросетей - она будет анализировать картинки, и возможно тексты на на характерные признаки и дальше давать выбор или блокирование или предупреждение и отображение по клику...

Реально озадачусь, даже не поленюсь изучить что такое нейросети, и обучить свою собственную чтобы она меня защищала от их засилия... Ну как в Терминаторе - там тоже их использовали для защиты от других терминаторов...

bonta ★★★★★
()

Где-то читал, что win12 будет требовать минимальную производительность AI в 50 TOPS

У меня вопрос, это я уже дед-пердед не успевающий за прогрессом и обычные пользователи уже вовсю используют AI для чего-то полезного?

MoldAndLimeHoney
()
Ответ на: комментарий от MoldAndLimeHoney

Как и GPU - обработка фотографий, видео, звук + на аппаратном уровне на энергопотребление и буст должно влиять

One ★★★★★
() автор топика
Последнее исправление: One (всего исправлений: 1)
Ответ на: комментарий от MoldAndLimeHoney

обычные пользователи уже вовсю используют AI для чего-то полезного?

Уже в мс офис всунули

goingUp ★★★★★
()
Ответ на: комментарий от MoldAndLimeHoney

А «необычные» юзеры типа меня уже давно разленились даже в командной строке

$ sgpt -s "delete all emacs tmp files"
find . -name "*~" -type f -delete
[E]xecute, [D]escribe, [A]bort:
goingUp ★★★★★
()

О. А я думал блокчейн пихать в процы начнут. Ан-нет, уже целый AI.

А как еще хомячкам продашь то, что будет запускать то, что показывает те же файлы в том же виде, с той же кнопкой Пуск, часами в трее и меню по дабл-клику, что и 20 лет назад ?

Конечно же встроить в ЦПУ %TODAY_HYPE_TECHNOLOGY% и притормозить софт на остальных.

windows10 ★★★★★
()
Последнее исправление: windows10 (всего исправлений: 2)
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)