История изменений
Исправление vaddd, (текущая версия) :
Мы слишком мало знаем о том, что такое минимально необходимый набор ИИ узкой специализации ) Там и человеческий язык не обязателен и объем данных для обучения может быть на много порядков меньше, и скорость совсем не требуется. Так что весь процесс сбора данных и обучения можно при желании запихнуть в один не слишком жрущий чип.
Да и асики для этого давно в ходу:
https://towardsdatascience.com/how-to-make-your-own-deep-learning-accelerator-chip-1ff69b78ece4
https://hardforum.com/threads/harvard-dropouts-raise-5-million-for-llm-hw-accelerator.2028400/
https://symmetricaldatasecurity.blogspot.com/2023/07/chiplet-asic-supercomputers-for-llms.html
Исходная версия vaddd, :
Мы слишком мало знаем о том, что такое минимально необходимый набор ИИ узкой специализации ) Там и человеческий язык не обязателен и объем данных для обучения может быть на много порядков меньше, и скорость совсем не требуется. Так что весь процесс сбора данных и обучения можно при желании запихнуть в один не слишком жрущий чип.