LINUX.ORG.RU

Apple выложила 8 ИИ-моделей с открытым кодом, которые не требуют подключения к интернету

 ,

Apple выложила 8 ИИ-моделей с открытым кодом, которые не требуют подключения к интернету

2

3

Apple выпустила восемь больших языковых моделей с открытым исходным кодом OpenELM, которые предназначены для запуска на устройстве, а не через облачные серверы.

Четыре из них были предварительно обучены с использованием библиотеки CoreNet. Apple использует многоуровневую стратегию масштабирования, которая направлена на повышение точности и эффективности.

Также компания предоставила код, журналы обучения и несколько версий моделей для всех желающих. Все новинки доступны на Hugging Face Hub.

>>> Подробности

★★★★

Проверено: hobbit ()
Последнее исправление: hobbit (всего исправлений: 1)

Маленькие, 3b и меньше. Обещают точность, интересно. Подождем gguf и результаты тестов. Когда уже будут включать нейронки в линукс по умолчанию в de или консольку…

xor2003
()

Чот я не увидел как их, собсно, поставить. В инструкциях по ссылке увидел что надо заводить какой-то там аккаунт на hugging face, получать какие-то там токены.

PPP328 ★★★★★
()
Ответ на: комментарий от PPP328

Токен бесплатный, просто чтоб не дудосили. По токену huggingface сам скачивает модельку по названию. В файлах для прямого скачивания она тоже присутствует

ac130kz ★★
()

Apple

Я раньше тоже презирал и красноглазил, а как стал уважаемым человеком перешел всецело и полностью, горя и бед с тех пор не знаю. Вот случился в прошлом году со мной казус в Сан-Ремо, открывал просекко по гусарски, удаль молодым барышням показывал, так и пробкой экран макбука пробил, восстановил все из тайммашины на новом на следующее утро, в грязь лицом не ударил. Хорошая техника!

XOXO
()
Последнее исправление: XOXO (всего исправлений: 1)
Ответ на: комментарий от dataman

Многие языком владеют мастерски!

Был у меня товарищ один, Пашка по прозвищу «Колбаса», если есть тут рейверы столичные, кто на «Казан» раньше ездил, в стародавние времена, могут знать такого, гражданин примечательный, запоминающийся. Так вот он владел языком мастерски - девки пищали, от мала до велика, постоянно спрашивали про него, некоторые даже много лет после, когда все кончилось уже, поутихла движуха к тому времени.

Пять лет назад схоронили, царствие небесное, как сейчас помню, лежал Паша в гробу зеленом, в желтой гавайской рубахе и улыбался, сердце, мотор клинанул на сороковом уже году. Вот что значит владеть языком…

XOXO
()

А вот эти вот пестрящие в коде примеров trust_remote_code=True это так принято в сообществе ML-щиков?

cobold ★★★★★
()
Ответ на: комментарий от cobold

Да. Automatic1111 (интерфейс для генерации АИ картинок) по дефолту в консоли при настройке предлагает поменять параметры чтобы веб-интерфейс голой жопой в интернет торчал.

PPP328 ★★★★★
()

Не раскрыта тема что они делают и почему это не бесполезный мусор, который они решили выкинуть за ненадобностью.

kirill_rrr ★★★★★
()
Ответ на: комментарий от Shushundr

Ходят слухи, что следующий проц apple будет как раз заточен под это вот все. Что там и как будет в реальности - гадать не буду.

DrRulez ★★★★
() автор топика

Я так понимаю, пробежав глазами ссылку, что все эти модели - либо чат-боты, либо переводчики, либо одно из двух (с)… Но хотелось бы в самой новости видеть описание того, что это за нейронки и зачем конкретно они нужны, уж если это так важно, что достойно новости.

Truf
()
Ответ на: комментарий от PPP328

какой-то там аккаунт на hugging face

Меж тем ещё Ридли Скотт и Джеймс Камерон предупреждали нас об опасности face hugger-ов!

Smacker ★★★★★
()
Ответ на: комментарий от DrRulez

Ходят слухи, что следующий проц apple будет как раз заточен под это вот все

Так M1 в GPT4All самые крупные модельки на своём NPU гоняет со скоростью 35токенов/секунду, и генерит 1 изображение в минуту на Stable Diffusiin XL с 25-и прогонами и большим разрешением. Всё уже давно есть, работает, и люди этим пользуются.

Просто, в самой операционке оно нигде не используется, кроме распознавания лиц и ситуаций в «фото» - там сделали поиск по содержимому, типа «горы», «концерт», и.т.д. А развернуться можно гораздо круче.

alexmaru
()
Ответ на: комментарий от dataman

А вот владел бы японским или китайским, был бы жив.

Только язык бы себе сломал...

Somebody ★★
()
Ответ на: комментарий от xor2003

Маленькие, 3b и меньше.

Вот тоже смущает размер. 3B это же совсем-совсем ничего, а 270M выглядит вообще смешно. Но это же яббл, так что у них выборка токенов может оказаться очень качественной.

Обещают точность, интересно.

Опять же, это яббл, у них хватает ресурсов.

Our pre-training dataset contains RefinedWeb, deduplicated PILE, a subset of RedPajama, and a subset of Dolma v1.6, totaling approximately 1.8 trillion tokens.

Когда уже будут включать нейронки в линукс по умолчанию в de или консольку…

Когда у пользователей будут компы хотя бы на порядок мощнее нынешних. Для работы текстовым моделям нужно довольно много ресурсов.

mord0d ★★★★★
()
Ответ на: комментарий от sunjob

p.s. к чему-бы это?! :о)

«На те Боже что нам негоже»

Это значит, что в текущем виде они им уже не нужны, но потом, интересные наработки коллективного бессознательного, можно будет потырить обратно, в уже имеющиеся «неоткрытые» следующие итерации этих сеток.

Капитализма, она такая

bdrbt
()
Ответ на: комментарий от XOXO

Не пользуйся больше гугл переводчиком, написано так что можно даже подумать что это какой то бот(аля гпт).

P.S. Но больше прикалывает что некоторые ставят в реакцию кофе ;)))

mx__ ★★★★★
()
Последнее исправление: mx__ (всего исправлений: 1)
Ответ на: комментарий от sunjob

я про другое… кто ни-будь будет проверять код на наличие наличностей?!

:D Как будто ты не знаешь эплобоев… «это же единственная компания которая все-все делает супер-супер»

Пока никто «серьезный» к себе это не потащит - не думаю, что кому-то будет интересно бесплатно проводить ИБ-аудит, а если будет - то он скорее сбарыжит это каким-нибудь кулхацкерам.

bdrbt
()
Ответ на: комментарий от R_He_Po6oT

Ааа! едрён-батон, теперь понятно! :) Ну «Королева в восхищении!» (с) Кот Бегемот.

gns ★★★★★
()
Последнее исправление: gns (всего исправлений: 1)
Ответ на: комментарий от gns

да ничего. вся суть этих выкладываний в том чтобы работа не пропала зря и кто-то другой мог что-то интересное с этим сделать. выкладывают так или иначе уже не актуальные или не нашедшие комерческого применения модели. это что-то вроде этикета в индустрии сейчас.

Thero ★★★★★
()
Ответ на: комментарий от One

Он и так с 2005-го, когда появилась джанга, а после tornado, на хайпе. Да, после 2018-го популярность выросла благодаря блохчейну и датасаенсу, но он языком года чаще остальных был с 2007-го, когда Google признались, что используют его повсеместно

rtxtxtrx ★★
()
Ответ на: комментарий от Thero

Да мне интересно, как это использовать. Я глянул по диагонали как это поднять и про генерацию каких-то таблиц, но зачем это нужно так сходу и не понял.

gns ★★★★★
()
Ответ на: комментарий от xor2003

Вот можно в консольку их не надо? Да и в ДЕ я покодил на мсоподелии малость, мне его фантазии больше раздражения вызывают, т.к. иногда начинает правильно дополнять, а иногда как начнёт бредить и думается что бред этот легко можно пропустить особенно как качество лучше станет и ты расслабишь булки.

peregrine ★★★★★
()

Посоны, ставить то как? Хочу спросить у АИ как страничку вк Еотовой взломать

SpaceRanger ★★★
()
Ответ на: комментарий от gns

ну типа вот тебе маленькая «большая языковая модель» бери и пиши вокруг неё интерфейс взаимодействия, пихай через него запросы и делай что-то с ответами.

Thero ★★★★★
()
Ответ на: комментарий от Thero

Если только к емаксу прикрутить вместо его психиатра :)

gns ★★★★★
()

3b самая большая. Явно не передовые наработки. «На тебе Боже, что нам негоже».

eXOR ★★★★★
()
Ответ на: комментарий от xor2003

С учетом того что нейронки могут делать не то что их просят, это угроза безопасности в плане утечек данных

cvs-255 ★★★★★
()
Ответ на: комментарий от dataman

Основная ценность не в том что там в питоне написано, эта часть элементарно на любой другой язык переписывается (привет всяким llm.c), а в большом файлике с кучей циферок, который рядом лежит.

PolarFox ★★★★★
()
Ответ на: комментарий от eXOR

На тебе Боже, что нам негоже

Ну ещё же не передали в Apache Foundation)

Logopeft ★★
()
Ответ на: комментарий от XOXO

Девки презирают лизунов. Это для справки.

slew
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.