Есть ли смысл натаскивать ИИ на маны?

Потому что микрософт не может сделать нормально. Нету у них такого пункта в их стратегии «Embrace, extend, and exterminate»

Не боги горшки обжигают. Да дорого вкатываться в эту нишу с нуля, но бинг, да и даже яндекс в ней есть. Тут проблема в том что надо кадры нанимать толковые и в первую очередь выгонять глупых менеджеров, которые не имеют понимания того, что за продукт они делают и что насколько реально и просто сделать. Вопрос в том где брать умных менеджеров. Гугл едет только на том что те люди кто их делал сами на коленке первую версию делали и потому в теме того что происходит. А если нанять сову эффективного менеджера, который не понимает ни в технологиях, ни в айти, а скажем смог хорошо организовать работу сталелитейного завода, то результат будет плачевным и деньги такая компания будет есть куда больше, чем приносить их, постепенно сворачивая новые направления, т.к. они будут получаться убыточными, что будет приводить к тому, что вложения в R&D прекратят приносить прибыль, ну а дальше простое вытеснение с рынка конкурентами, у которых R&D будет прибыльным, давая им новые источники дохода и позволяя улучшать текущие сервисы на эти деньги. А бинг это детище Балмера, а балмер это экономист.

Потому что микрософт не может сделать нормально. Нету у них такого пункта в их стратегии «Embrace, extend, and exterminate»

Разве это не только проприетарная часть компании, которая производит Windows и т.п.?

Уже такое есть, в openai api есть assistants, куда можно загрузить разные документы, которыми GPT будет пользоваться во время чата. Не знаю правда насколько хорошо оно работает, не пробовал.

Сколько туда можно загрузить? Например, Клод вроде бы ограничен 50 мегабайтами

Весь софт. Например они реализовали эту стратегию в своем почтовом клиенте, теперь у них там свой протокол, с которого никто не может перейти, а обычные стандарты не подддерживаются.

Не в курсе. В доке не видел, видел только, что они берут деньги за объем использованного документа. Можно попробовать прямо в playground https://platform.openai.com/assistants

они берут деньги за объем использованного документа.

Вероятно загрузка туда всех манов может стоить немалых денег.

И насколько долго сохраняются такие загруженные документы? В пределах сессии/диалога? Потом опять загружать и опять за деньги? :)

Весь софт.

.NET? ASP.NET, etc. ?

Ты создаешь ассистента, добавляешь ему документы, и потом можешь начинать с ним чаты. По идее бобло списывается каждый раз, когда ему нужно будет обратится к документам во время чата.

Retrieval $0.20 / GB / assistant / day (free until 04/01/2024)

По идее бобло списывается каждый раз, когда ему нужно будет обратится к документам во время чата.

Интересно, сколько за мегабайт?

Это первый пункт. Почитай их стратегию.

Нет, там написано, что текущие архитектуры сравнительно умеют в один «прыжок», а на цепочках рассуждения длины 2 и более обламываются.

Это первый пункт. Почитай их стратегию.

Частично можно согласиться, я даже сам об этом уже упоминал, что хотят привлечь на open-source, а потом затащить в Azure и даже привязать к некоторым проприетарным сервисам, особенно тем, что основаны на венде.

Но что мешает использовать только open-source Codium или Neovim+Vimspector с открытым отладчиком от Samsung.

И деплоить только таким способом, что можно воспроизвести даже в своей локальной инфре, т.е. без привязки к проприетарным облачным сервисам.

ИИ – это гибрид напевающего Рабиновича и колодца, в который кричали Петька с Чапаевым. Хорошо подходит только для генерации творческого контента, за надёжность которого переживать не надо, или технического, надёжность которого легко проверить. Твоя задача не попадает ни в одну из этих категорий.

ИИ – это гибрид

Я бы, на данный момент, назвал его «продвинутым поисковиком», исходя из своего опыта использования. Несколько раз помогал там, где гугл не справлялся.

Проблема не в архитектуре как таковой, это ж seq2seq. Проблема в размеченных данных для обучения с необходимой длиной контекста. Все эти ИИ просто продолжают последовательность слов в предложениях. Т.е. чем больше контекст (длиннее последовательность слов для word2vec энкодера) в обучающих данных тем лучшие и главное - дольше сеть сможет достраивать предложения с приемлемым уровнем следования теме беседы.

Из-за этого практически все коммерческие решения имеют препроцессоры которые формируют и достраивают вопрос пользователя обогащая его контекстном. Поэтому Gemini пихает чернокожих в свои ответы, а не потому что обучено на правильной повесточке.

По поводу рассуждений в 2 прыжка и больше, почти 4 года назад, сеть обученная на сообщениях в сообществе одного дискорд сервера смогла попасть в админ состав другого сообщества, правда всего на 4 дня, но результат так сказать - на лицо.

Кстати, тоже хороший юзкейс, согласен.

Эти ИИ не имеют никакого отношения к поиску, они просто достраивают следующие предложения по смыслу на базе предыдущих. Можно даже не заканчивать предложения, сеть достроит предложение-вопрос и добавит предложение-ответ.

Таки находит (в своей сетке) предложение ответ (нередко похожее на правду) для предложения вопроса? Чем избавляет человека от рутинных действий по аналогичному первоначальному поиску, пока ещё не хватает поисковых ключей и своих знаний в очень узкой теме в целом?

А сервисы типа perplexity.ai ещё больше походят на поисковики?

Большинство гптподобных ИИ это просто продвинутая языковая модель, если натаскаешь ее на маны она тебе будет успешно цитировать маны, и только. Чтобы она отвечала на вопрос, нужно тренировать на парах вопрос-ответ. Ман это просто справочник, в нем не хранится связь между тем что ты хочешь сделать и что нужно сделать.

Нет, там написано, что текущие архитектуры сравнительно умеют в один «прыжок», а на цепочках рассуждения длины 2 и более обламываются.

Нет, там написано что цепочки рассуждений длины 2 бывают, но очень редко. И поэтому надо изучать как это делается и понять как добиться того, чтобы происходили цепочки рассуждений длины 2 и более.

Таки находит (в своей сетке) предложение ответ (нередко похожее на правду)

Не находит, а достраивают слово за словом. Там даже один из гиперпараметров - длина достраиваемой последовательности в токенах, чтобы вовремя «заткнуть рот» сети.

У сети всегда есть словарь токенов, по нему используя веса она определяет многомерный вектор который потом преобразуется в слово, наиболее вероятное слово которое должно быть следующим в последовательности слов из вопроса и уже сгенерированных до этого слов ответа.

Сети не ищут, они генерирует последовательности токенов. Это буквально бредогенератор пытающийся попасть функцией минимизации ошибки в текущий контекст.

хоть MSDN

ИИ убьет себя ап стену.

Не будет ли такой ИИ посылать в маны или в платную поддержку?

Тогда это будет правильный И :)

Это буквально бредогенератор пытающийся попасть функцией минимизации ошибки в текущий контекст.

Знаю таких людей.

Надо, значит, воспитывать ИИ с наказаниями за косяки.

Типа снизу должна быть кнопочка «Бармин»? Накосячил ИИ, жмякаешь кнопочку :)

регулярочку ... подсунуть
риски минимальные.

Ну да... Бармин part two.

или выдуманные ключи к существующим, вместе с их описанием

Зачем выдумывать? Он выдаст те которые он знает, а так как самих утилит с одинаковым названием, но разными ключиками чуть больше чем много (ака разных реализаций), то для получения от него ответа кнопочек придется нажать сильно больше чем man commandname в живой системе.

можно загрузить разные документы, которыми GPT будет пользоваться во время чата

Надо сначала загрузить ему Барковского ну и тому подобного творчества до кучи, вот это годный ИИ получится. Толку ноль, зато хоть ответы порадуют. :)

Имеется ли там достаточно информации для обучения ИИ (для человека - имеется)?

Нет.

Не будет ли такой ИИ посылать в маны или в платную поддержку?

Гугловый будет. И реклама по подписке, да.

КМК, это будет просто люкс, если вместо мана будет вылезать готовый ответ.

Готовые ответы получаются не с манов, а с практики.

Я тебе даже больше скажу, примеры с того же гнома (точнее гтк) не всегда работают. То либы не найдено, то депрекейтнуто на твоей версии, то еще что-то.

У человека возникают непонятки не с синтаксисом команды\функции, а с конкретным ее применением в необходимом ему контексте.

Например они реализовали эту стратегию в своем почтовом клиенте, теперь у них там свой протокол

Вы про MAPI ?

с которого никто не может перейти

Что значит не может?

Про MAPI, да.

Что значит не может?

https://kb.wisc.edu/helpdesk/page.php?id=28747

Что значит не может?

https://kb.wisc.edu/helpdesk/page.php?id=28747

Какой конкретно абзац прочитать?

А если нанять сову эффективного менеджера, который не понимает ни в технологиях, ни в айти, а скажем смог хорошо организовать работу сталелитейного завода, то результат будет плачевным и деньги такая компания будет есть куда больше, чем приносить их, постепенно сворачивая новые направления, т.к. они будут получаться убыточными, что будет приводить к тому, что вложения в R&D прекратят приносить прибыль, ну а дальше простое вытеснение с рынка конкурентами, у которых R&D будет прибыльным, давая им новые источники дохода и позволяя улучшать текущие сервисы на эти деньги.

на хаборе частенько проскакивают статейки про попытки внедрения нейросети на реальные производства (там где реально то металло-прокатом занимаются, то выплавкой/литьем или еще чем-то). и всегда там «только выиграли», потому что заменили мясного человека надзорщика над процессом и все стало сразу же лучше и стабильнее, и не зависит от настроения какого-то там ответственного васяна.

если чуть подкрутить kpi, то все эти васяны повылетают со своей работы. как максимум они будут нужны лишь для настройки/наладки, и хорошо если раз в пятилетку.

Есть же fuzzy finder, зачем что-то ещё, что бы было?

Кстати, много лет назад этот fuzzy logic встраивали в стиральные машины, и называли это искусственным интеллектом.

Нет. ИИ не понимает контекст, получится чистая голимотья

голимотья

//ударила nager томиком Монтеня под ухо

голимотья

//ударила nager томиком Монтеня под ухо

Ну зачем вы так? Может человек имел ввиду производное от слова «голимость» :)

для человека - имеется

Человек параллельно играется с самой программой, чтобы понять как оно работает. Маны тут очень косвенно.

Особо тяжко маны читать, когда у программы многоэтажные параметры ком.строки, типа той же «ip».