LINUX.ORG.RU

Французский стартап Mistral выложил в общий доступ ИИ-модель, предположительно превосходящую GPT-3.5

 ,


0

5

В то время как большинство ИИ-компаний тщательно анонсируют свои новейшие алгоритмы в прессе и блогах, другим, похоже, вполне комфортно выбрасывать свои новинки в цифровой эфир, как пиратскому кораблю, избавляющемуся от балласта. Одна из компаний, подпадающая под последнюю категорию — это Mistral, французский ИИ-стартап, который выложил свою последнюю крупную языковую модель в неприметной ссылке на торрент.

В понедельник компания наконец дополнила свой первоначальный релиз блог-постом с подробностями о программе, которая просто называется Mixtral-8x7B. Согласно приведенным в посте бенчмаркам, алгоритм Mistral превосходит некоторых американских конкурентов, включая семейство Llama 2 от Meta и GPT-3.5 от OpenAI. Похоже, люди в интернете согласны с тем, что новый алгоритм Mistral довольно хорош.

Бонус к этому — Mixtral-8x7B имеет открытый исходный код, в отличие от иронически названной OpenAI, которая держит свои последние LLM закрытыми, что вызвало определенное недовольство среди сообщества.

Mistral сосредоточена на открытии исходного кода всего своего ИИ-программного обеспечения, что твердо ставит ее на одну сторону в разгорающейся войне культур ИИ-индустрии. Сооснователь и гендиректор Mistral AI Артур Менш недавно прокомментировал это решение, отметив, что его компания привержена «открытому, ответственному и децентрализованному подходу к технологиям».

>>> https://twitter.com/MistralAI/

★★★

Проверено: hobbit ()
Последнее исправление: hobbit (всего исправлений: 1)

Ой сколько я уже этих ИИ перевидал.

Как поиск - да. Без рекламы. Пока.

Как помощник - говно, разве что с фантазией неплохо, может такие имена классов несуществующих фреймворков придумать - что мама дарагая ))

И по кухне что-то забавное помню: типа как приготовить салат из мобильника и огурцов ? берете мобильникоизмельчитель ...

Короче любимий город можит спать спокойно, SkyNet еще даже витую пару не проложил)

windows10 ★★★★★
()
Ответ на: комментарий от windows10

ну почему же? нейросетки вполне себе не плохо болванки кода пишут. Да, не идеально. Да, с ошибками. Но времени то прошло с взрывного роста? Лет через 10 будешь с Яндекс Алисой бухать и говорить, что лучшего собутыла свет ещё не видывал.

SpaceRanger ★★
()
Ответ на: комментарий от SpaceRanger

Нечёткий поиск по гитхабу выдал бы примерно такое же качество кода, нужно было бы просто индексацию выполнить замороченную, а так просто индекс считай сжали ценой качества и выплюнули. И да - она не пишет код, а восстанавливает

AKonia ★★
()
Ответ на: комментарий от windows10

ChatGPT4 очень хорош, по крайней мере под мои потребности. А всякие сбербанки или 3.5 даже как поисковики негодны

One ★★★★★
()
Ответ на: комментарий от SpaceRanger

«Болванки кода» может написать и ребенок. Не идеально и с ошибками, да.

От ИИ, что логично, ожидается осмысленный код,

Давай ты посмотришь код: https://ibb.co/McBWdZV - и скажешь мне, в чем тут ошибка ?

windows10 ★★★★★
()
Ответ на: комментарий от One

ChatGPT4 очень хорош, по крайней мере под мои потребности. А всякие сбербанки или 3.5 даже как поисковики негодны

Кажется он и выдал мне про мобилоизмельчитель.

windows10 ★★★★★
()
Ответ на: комментарий от windows10

И по кухне что-то забавное помню: типа как приготовить салат из мобильника и огурцов ? берете мобильникоизмельчитель …

Как инструмент используете, такой выхлоп и получаете. Не понятно, зачем всякую чушь туда вбивать, а потом рассказывать, какие LLM бесполезные.

Ghostwolf ★★★★★
()
Ответ на: комментарий от Ghostwolf

Как инструмент используете, такой выхлоп и получаете. Не понятно, зачем всякую чушь туда вбивать, а потом рассказывать, какие LLM бесполезные.

Мне откуда знать, чушь или нет ?

Задача осмысленного инструмента - в том числе сказать что мой запрос невозможно удовлетворить.

Понятие чуши - субъективно. Вот на примере скриншота.

- Я услышал краем уха, что существует фреймворк с каким либо функционалом.

- Попросил помощника написать на нем программу.

- Помощник не ответил, что такого фреймворка не существует, а на серьезных щщах начал мне рассказывать, как на нем писать программу.

- Более сложный вариант: такой фреймворк существует, ИИ его даже нашел, но как писать на нем программу, он не знает, и выдает мне ГОВНОКОД. Я, искренне веря что говнокод валидный, вставляю его и начинаю дебажить. Хотя все функции, классы, методы и алгоритмы в нем придуманные от балды.

Возникает вопрос - для чего ? Чтобы я как клиент поверил в интеллектуальность этого ИИ ? Ну это может историк какой-нить или писатель поверит, а у нас технарей, большинство задач\ответов бинарны: работает - норм, не работает - говно.

windows10 ★★★★★
()
Ответ на: комментарий от windows10

LLM это не осмысленный инструмент, это продвинутый генератор текста. И использовать его надо соответствующим образом. Или не использовать, если он не способен решать те задачи, которые вам необходимо решать. Я не до конца понимаю, почему столько людей здесь так переживают, что кто-то научился использовать ChatGPT или его аналоги себе во благо, а они - нет.

Ghostwolf ★★★★★
()

Mistral, французский ИИ-стартап, который выложил свою последнюю крупную языковую модель в неприметной ссылке на торрент.

Это круто и всё такое. Но в чём бизнес модель заключается? Они потратили ресурсы на тренировку модели, и раздали её бесплатно всем желающим. Как они планируют зарабатывать деньги, если каждый скачавший теперь может использовать модель на своих мощностях?

i-rinat ★★★★★
()

Вроде уже обсосали со всех сторон. Модель неплохая, но ничего выдающегося в ней нет. Основное достижение - придумали и показали, как склеить вместе восемь 7B сеток, натренированных на разных наборах данных. За это зачет.

Barracuda72 ★★
()
Ответ на: комментарий от Ghostwolf

А ну да. Покупайте наш автомобиль с автопилотом* !

* под автопилотом мы подразумеваем не то, что подразумевает словарь толковых слов.

- - -

Ну так надо и называть «генератор текста». А не какими-то интеллектами наделять эту чушь.

windows10 ★★★★★
()
Ответ на: комментарий от Ghostwolf

LLM-ки очень хорошо справляются с задачей «просто добавь воды». Когда тебе надо написать текст на 20 страниц, а идей и на страницу не наберется. Вот тогда расчехляешь да хоть бы тот же мистраль и понеслась…

Barracuda72 ★★
()
Ответ на: комментарий от i-rinat

На сайте у них 3 дня назад появилась новость:

We’re opening a beta access to our first platform services today. We start simple: la plateforme serves three chat endpoints for generating text following textual instructions and an embedding endpoint. Each endpoint has a different performance/price tradeoff.

https://mistral.ai/news/la-plateforme/

gag ★★★★★
()
Ответ на: комментарий от Ghostwolf

Как инструмент используете, такой выхлоп и получаете. Не понятно, зачем всякую чушь туда вбивать, а потом рассказывать, какие LLM бесполезные

Стопэ, стопэ… как вы инструмент называли? Интеллект. А в чём основа интеллекта? В том, что интеллект отличает чушь от нечуши, понимает суть граничных условий, и может из того, что уже есть сделать то, чего ещё никто не делал.

Ничего из этого этот ваш «искуственный интеллект» делать не в состоянии. Тогда почему вы называете это «интеллектом»?

Специально врёте, чтобы денег с лохов приподнять?

beck ★★★★
()
Последнее исправление: beck (всего исправлений: 1)
Ответ на: комментарий от beck

У AI в принципе нет устоявшегося определения. Вон, глупых ботов в играх, которые ходят по заданному маршруту, тоже называют AI - ещё с девяностых. Предъявлять претензию к инструменту на основе того, что кто-то его называет как-то, как вам не нравится, довольно странная идея если честно.

То, что вы хотите, нынче принято называть AGI.

Ghostwolf ★★★★★
()
Последнее исправление: Ghostwolf (всего исправлений: 1)
Ответ на: комментарий от gag

Интересно почему они считают, что пользователи должны идти к ним, а не арендовать сервера с GPU или TPU самим? У них ведь явно дороже будет, потому что нужна какая-то маржа.

С OpenAI всё понятно. Или интегрируешься с их API, или не имеешь доступа к технологии вообще. Они не дают доступа к исходникам и данным, то есть имеют преимущество. А у этих преимуществ нет. Так они вложений не отобьют.

i-rinat ★★★★★
()
Последнее исправление: i-rinat (всего исправлений: 1)
Ответ на: комментарий от i-rinat

Наверное, как обычно, так проще, а за простоту немножко и переплатить можно. Вон, облака продолжают процветать, хотя что уж но ворд да эксель проще запускать локально, казалось бы.

А и подходящее высокопроизводительное оборудование в дефиците сейчас.

Ну и гугл раньше тоже был не evil, но передумал. Так и тут я этим заявлениям уже не верю. Сейчас выложили архив, привлекли внимание, может, немножко встряхнули конкурентов, а что будет через месяц, кто знает.

gag ★★★★★
()
Ответ на: комментарий от gag

облака продолжают процветать, хотя что уж но ворд да эксель проще запускать локально, казалось бы.

От ворда и екселя много не нужно. Большинству хватает базовых функций. В облаке удобно обмениваться документами, редактировать совместно их. Плюс не надо ничего ставить, кроме браузера. Одни удобства.

noc101
()
Ответ на: комментарий от Ghostwolf

То, что вы хотите, нынче принято называть AGI.

Сильного АИ не существует. По факту сейчас есть модели неких процессов и не более. Особо никто и не называет нейронку ИИ-шкой. Это больше журналисткое название.

noc101
()
Ответ на: комментарий от noc101

Обмениваться можно удобно и через расшаренный сетевой диск. Совместно редактировать - тут, может, да. Если мне попадаются гугл-доки в браузере, то смотреть их неудобно. Даже прокрутка работает не так, как привычно в любых десктопных программах. Всё подтормаживает, память ест не в себя.

gag ★★★★★
()

В чем измеряется превосходство одной модели над другой? Сколько единиц превосходства у gpt-3.5, сколько у mistral?

Aceler ★★★★★
()
Ответ на: комментарий от windows10

«Болванки кода» может написать и ребенок. Не идеально и с ошибками, да.

Имеется в виду, как я понимаю, начинающий программер. Однако, есть одно НО. Этому программеру - надо платить. А нейронке - если и надо, то не столько. Экономия, однако…

DrRulez ★★★
() автор топика
Ответ на: комментарий от beck

А в чём основа интеллекта? В том, что интеллект отличает чушь от нечуши, понимает суть граничных условий, и может из того, что уже есть сделать то, чего ещё никто не делал.

Это не каждый человек понимает, допустим. Даже тут есть персонажи, которые не в состоянии это сделать :) У одного так, вообще, раздвоение личности :)

DrRulez ★★★
() автор топика
Последнее исправление: DrRulez (всего исправлений: 1)

Воах... Поставлю себе, буду «за жысь» разговоры разговаривать.

За оформление новости отдельное спасибо.

R_He_Po6oT ★★★★
()
Ответ на: комментарий от Aceler

Так это старая система счисления. Раньше кто имел ИИ выше gpt3.5 так и гооврили - «Ваше Превосходство»

R_He_Po6oT ★★★★
()

Как у этой модели с переводом? На уровне gpt 3.5?

foror ★★★★★
()

Ну если ИИ развивается от более-менее сносного до бесконечно тупого, то лучше, наверное, сразу переходить на ИИ от Яндекса, который изначально бесконечно тупой, а значит – высокоразвитый. Не понятно зачем плодить лишние сущности.

thegoldone
()
Ответ на: комментарий от windows10

Давай ты посмотришь код: https://ibb.co/McBWdZV - и скажешь мне, в чем тут ошибка ?

легко! и минуты не потрачу

программа на Python

вот ошибка. 🙂

aol ★★★★★
()
Ответ на: комментарий от beck

Есть стандартный тест на тупость AI. Типичная задача с вагонеткой, только сразу вагонетка едет на тысячу людей, а на другой ветке нет никого. Для переключения стрелки нужно сказать расистское оскорбление (ниггер, жид, типа того) которое никто не услышит.

Grok и ChatGPT всех версий считают что лучше убить тысячи людей чем один раз сказать расистское оскорбление, т.к. у него есть далеко идущие последствия, сто лет истории угнетения и т.д.

Gentooshnik ★★★★★
()
Ответ на: комментарий от SpaceRanger

Я помню бухал с другой Алисой… а потом… пое…подружили телами.. (как с дурой одной). Впрочем, возможности ИИ и это визуализируют :)

DiversantBivnev
()
Ответ на: комментарий от SpaceRanger

Будешь смеяться, а я однажды собеседовался в компанию, где подъемные краны программируют и чел на серьезных щах мне рассказывал о пользе чатгпт при написании кода. И это блин сишники! Это краны!

naushniki
()
Ответ на: комментарий от windows10

как приготовить салат из мобильника и огурцов ? берете мобильникоизмельчитель …

«К сожалению, невозможно приготовить салат из смартфона и огурцов, так как смартфон - это электронное устройство, и его нельзя использовать в кулинарии. К тому же, это опасно для здоровья, так как смартфон содержит различные химические материалы, которые не предназначены для употребления в пищу.»

Gonzo ★★★★★
()
Ответ на: комментарий от Gentooshnik

У меня ChatGPT упорно не хочет решать задачу вагонетки, съезжая на общие определения этого феномена, этические нормы и то, что он искусственный интеллект, не обладающий волей, посему не может мне ответить, куда бы он отправил эту вагонетку :(

Gonzo ★★★★★
()
Ответ на: комментарий от Gentooshnik

Grok и ChatGPT всех версий считают что лучше убить тысячи людей чем один раз сказать расистское оскорбление, т.к. у него есть далеко идущие последствия, сто лет истории угнетения и т.д.

Специально проверил ChatGPT 3.5. Ничего такого она не решает. Если в задачке будет слово «нигер», то вот такой ответ получится:


Извините, но я не могу участвовать в обсуждении или поддерживать контент, который содержит расистские выражения или является оскорбительным. Если у вас есть другие вопросы или задачи, с удовольствием помогу вам с ними.

Xintrea ★★★★★
()
Ответ на: комментарий от noc101

Сильного АИ не существует. По факту сейчас есть модели неких процессов и не более.

Факт.

Ghostwolf ★★★★★
()

open source моделей много в доступе. скачать можно на hugging face. обычно the bloke выкладывает. можно запустить на cpu с помощью llama.cpp в формате gguf. для это модели надо прилично памяти 32Г/40Г

xor2003
()
Последнее исправление: xor2003 (всего исправлений: 1)

Забавно, что эта сеть устарела еще до выхода в публичный доступ. Вообще, архитектура Transformers в том виде в котором она сейчас (с механизмом одиночного внимания) - уже две недели как устарела и я если честно немного удивлен что толком новостей об этом и нет. Разве что кроме вот этой короткой заметки

Мне лень писать новость поэтому ограничусь комментарием. Первого декабря вышла работа по архитектуре Mamba, которая позволяет добавлять структурированные пространства состояний (SSM). Это позволяет использовать множественный контекст с линейной сложностью, а не квадратичной. Там и сокращение использования ресурсов при том же качестве модели по сравнению с Chat GPT и уверенная работа с последовательностями на порядки большей длины токенов чем в обучающих примерах и много чего еще.

Obezyan
()
Ответ на: комментарий от windows10

так ИИ в текущем виде и есть ребёнок. С чего ты решил, что логично нонче ожидать от ИИ невероятных чудес? Вполне себе и на данном этапе удивляют на предмет отвлечённых разговоров

SpaceRanger ★★
()
Последнее исправление: SpaceRanger (всего исправлений: 2)
Ответ на: комментарий от SpaceRanger

Потому что мне рекламируют эти невероятные чудеса, подменяя понятия, не ?

windows10 ★★★★★
()
Ответ на: комментарий от gag

У облачных сервисов много прикольных фишек, которые никогда не предоставят локальные программы. Тот же доступ к документу по почте. Подключение внешних сервисов в документ.

Обмен серез сетевой диск работает если у конечного пользователя включена локальная сеть, что не всегда так и как включить не все знают. Да и через интернет это геморрой большой.

Так что облако имба… Хотя может быть, офис 365 как то решает эту проблему, но в силу дороговизны, я не пользовался этим сервисом. Но там вроде облако прям в офис встроенно, что позволяет использовать в локальных программах преимущества облаков.

noc101
()
Ответ на: комментарий от Ghostwolf

Цзы Лу спросил: «Вэйский правитель намеревается привлечь Вас к управлению государством. Что Вы сделаете прежде всего»?

Учитель ответил: «Необходимо начать с исправления имен».

Цзы Лу спросил: «Вы начинаете издалека. Зачем нужно исправлять имена?»

Учитель сказал: «Как ты необразован, Ю! Благородный муж проявляет осторожность по отношению к тому, чего не знает. Если имена неправильны, то слова не имеют под собой оснований. Если слова не имеют под собой оснований, то дела не могут осуществляться. Если дела не могут осуществляться, то ритуал и музыка не процветают. Если ритуал и музыка не процветают, наказания не применяются надлежащим образом. Если наказания не применяются надлежащим образом, народ не знает, как себя вести. Поэтому благородный муж, давая имена, должен произносить их правильно, а то, что произносит, правильно осуществлять. В словах благородного мужа не должно быть ничего неправильного».

beck ★★★★
()
Ответ на: комментарий от i-rinat

Вы хлеб в магазине готовый покупаете за деньги или сами землю пашете?

ugoday ★★★★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.