https://www.ixbt.com/news/2024/03/14/ipad-4-cerebras-wse-3.html
https://bitperfect.pe/ru/новая-эра-искусственного-интеллекта/
Читаешь новости про всю эту шумиху с ChatGPT и другими моделями, что скоро AGI и т.д., что Nvidia монополист и все такое и вдруг подобные новости:
Микросхема Cerebras, изготовленная из целиковой 300-мм пластины, содержит
Так, если у WSE-1 было 400 000 ядер, а у WSE-2 — уже 800 000 ядер, то WSE-3 предлагает 900 000 ядер. При этом количество транзисторов выросло намного существеннее: с 2,6 трлн до 4 трлн.
Объём памяти увеличился с 40 до 44 ГБ, а пропускная способность повысилась с 20 до 21 ПБ/с. Всё это обеспечивает производительность ИИ в 125 PFLOPS и способно обучать модели с 24 трлн параметров.
Это на одной микросхеме! (Хотя и чудовищных размеров - кто там шутил про самые большие в мире советские микросхемы?)
Самые продвинутые модели ChatGPT - это до 700 миллиардов параметров в лучшем случае, а скорее менее. И тут бах - 24 триллиона!
Ну и скорости тоже однако
Уже сейчас известно, что 64 установки CS-3 будут использоваться для суперкомпьютера Condor Galaxy 3, который обеспечит производительность вычислений искусственного интеллекта 8 ExaFLOPS.
(А сейчас у него в два раза меньше). 1 ExaFLOPS = 10^18 операций в секунду.