Есть ли смысл натаскивать ИИ на маны?

КМК, это будет просто люкс, если вместо мана будет вылезать готовый ответ.

Не будет, маны это не гайды

Ну так и ИИ - не печатная машинка.

Контекста не хватит.
Вот например man dd (утилитой которой все привыкли работать с дисковыми устройствами на низком уровне), что у нее в начале:

dd - convert and copy a file

Мне кажется что маны это слишком мало для обучающего материала. А вот правильных ответов техподдержки, которая ориентируется на маны может быть намного больше, что и можно использовать в кчестве обучающего материала.

Да, норм идея. https://lightning.ai/lightning-ai/studios/document-chat-assistant-using-rag

Человеки за счет манов как-то обучаются. Если, допустим, дать ИИ виртуалку с убунтой для экспериментов, он научится?

Не взлетит. У стохастических попугаев, которых мир называет «ИИ», всё не то чтобы хорошо с multi-hop reasoning.

А поскольку маны — это просто перечень сухих фактов без контекста, оно попросту не сможет сделать из них те же выводы, которые делает мясной мешок. Гопота вывозит тупо за счёт того, что ей скормили весь StackOverflow (где все выводы уже сделаны компетентными отвечающими для овощебазы в лице основной массы посетителей).

Этот лайтнинг как-то сильно смахивает на локальный гугл, а с некоторых точек зрения даже на простой греп.

Люди это не ИИ.

дать ИИ виртуалку с убунтой для экспериментов, он научится?

Найс шутка. Если говорить коротко, то нет. ИИ конкретно здесь просто генерирует текст на основе обучающего материала, он не умеет думать. Он не умеет делать выводы и так далее. Если чего-то не было в исходном тексте, то он не сможет это сгенерировать.

Ну, по сути это оно и есть. Моделька шарится по базе с документами за пользователя, который пишет запрос в произвольной форме. Профит только в этом.

если вместо мана будет вылезать готовый ответ

Он будет «юридически ничтожен», ибо ман – документ, а ответ ИИ – «филькина грамота».

поскольку маны — это просто перечень сухих фактов без контекста, оно попросту не сможет сделать из них те же выводы, которые делает мясной мешок

Так и мясной мешок не может делать выводы из «сухих фактов» без контекста.

Бинг уже

Мясной мешок обладает обширным фоновым контекстом и умеет в multi-hop reasoning (ну, ладно, некоторые умеют).

Ты думаешь, условный ChatGPT уже не обучен на этих материалах?

Он много лишнего хапнул, поэтому часто выдает нерабочие решения.

У стохастических попугаев, которых мир называет «ИИ», всё не то чтобы хорошо с multi-hop reasoning.

Но там же написано что все хорошо, а чтобы стало еще лучше, надо эту возможность изучать и допиливать.

Ахтунх!!!!!111
Манэ апаснасте! =)

Не взлетит.

По-моему, тот случай, когда проверять надо, если вопрос всерьез задан конечно. Ну и смотря какой результат получить хочется. Если чтобы было как ChatGPT, но по манам, то такого не выйдет, если что-то вроде умного поисковика по манам, то просто попробовать надо.

ChatGPT обучен не только на этих материалах и это может быть даже недостатком, если нужна работа только с манами.

Добавить ему advanced bash scripting тогда и по регуляркам что-нибудь.

КМК, это будет просто люкс, если вместо мана будет вылезать готовый ответ.

Так я в основном GPT так и использую - чтобы не копаться в мануалах.

Языковые модели хороши для нечеткого поиска, когда не знаешь где искать, так что в целом стоит. Но это годится для того чтобы быстро найти какой ман надо курить.

Для готовых решений - LLM в это не умеет, копировать какие-нибудь команды для баша из выхлопа нейронки - вообще хороший рецепт забить нулями себе диск или ещё что-то испортить.

С учетом перманентных галлюцинаций оно в принципе не способно выдать информацию, которая будет безопасна или надежна. При генерации кода оно придумывает несуществующие функции, при выдаче мана будет выдавать несуществующие свойства типа «эта функция потокобезопасна»

Главное на ЛОР его не натаскивай

Надо, значит, воспитывать ИИ с наказаниями за косяки.

И в идеальном случае, с соблюдением 100%й точности вы получите самый простой самый тупой

grep -r "термин" .

Для готовых решений - LLM в это не умеет, копировать какие-нибудь команды для баша из выхлопа нейронки - вообще хороший рецепт забить нулями себе диск или ещё что-то испортить.

Конечно, применять эти выводы ГПТ надо со включенным мозгом. Ну а для простых команд, когда например надо просто регулярочку в sed подсунуть - там риски минимальные.

ИИ станет придумывать manы к несуществующим утилитам и\или выдуманные ключи к существующим, вместе с их описанием. Оно точно надо?

С учетом перманентных галлюцинаций оно в принципе не способно выдать информацию, которая будет безопасна или надежна

Отлично, будет сказки на ночь читать. По мотивам man bash.

Конечно, применять эти выводы ГПТ надо со включенным мозгом.

Ну то есть для новичка эти ответы вредны, а опытный и так знает и умеет мгновенно найти нужный ключ в выхлопе man.

Не нужно короч.

Есть ли смысл натаскивать ИИ на маны? (комментарий)

Если чего-то не было в исходном тексте, то он не сможет это сгенерировать.

Так не сможет или станет придумывать? Выдумки можно тупо отсеивать путем обращения к каталогу с руководствами.

Уже такое есть, в openai api есть assistants, куда можно загрузить разные документы, которыми GPT будет пользоваться во время чата. Не знаю правда насколько хорошо оно работает, не пробовал.

Если и дать маны и убунту, он с помощью дд диск нулям перепишет

В том-то и дело, что не мгновенно. Во-первых, каждый ман написан на естественном языке, и могут использоваться синонимы, т.е. просто поиск не подходит. Во-вторых, сам ман может быть гигантский (типа man bash).

Оно точно надо?

Вижу элементы разочарования я, модным раскрученным продуктом, ) Форумы ака «поиск помощи» vs ChatGPT (комментарий):

Лично я уже во всю использую. Причём это так удобно что я даже подписку купил. По сути это магия…

Это самое вредное что можно сделать. Текущий ИИ по своей природе пересказывает со всеми вытекающими последствиями (фантазирует/недоговаривает), а маны это про подробную и точную документацию, перефразирование которой вредно.

Почему? Что плохого в ответах «забанься, дебил», «не нужно» и «на винфак»?

Написал нейронке «Как установить Кали?», а она сразу даёт ответ по делу — «Кали не нужна» или «Забанься, дебил» и не надо идти на ЛОР, где кожаные мешки скажут тоже самое.

И это не помогает ему занять нишу гугла.

Оба. ИИ не может сказать что он чего-то не знает, потому что он устроен как генератор текста. То есть когда ты спросишь у него то чего нет в материале для обучения, то он начинает генерировать собственно.

Да, так и есть, наигрался и остыл. Специализированного развития в инструмент, направленный в мои задачи, за который мне захотелось бы заплатить я так и не увидел.

Это IMHO, возможно в других областях по другому, возможно копирайтеры уже вовсю используют например...

Так его так и обучают.

Тут профитнее будет не от генеративной нейронки, а от word2vec и поиска по синонимам плясать, чтоб оно не фантазировало. Хотя оригинальный word2vec придётся немного иначе учить, чтоб у него больший контент захватывался.

ИИ это подражатель.
он может высказываться на любую тему, если эта тема каким-то боком присутствовала в обучающей выборке.
для человека несведущего ответ ИИ может быть неотличим от содержательного ответа специалиста.

фишка в том, что любая справочная информация должна «быть, а не казаться» содержательной, а с этим (пока?) у ИИ плохо.

Нет, не ИИ подражатель. А GAN это подражатель, как и всё что использует его идеи в плане обучения без учителя, современные чатботы либо являются разновидностью GAN, либо его потомком, переняв от него многие идеи. У нас не только GAN есть на фундаментальном уровне, просто его последователи хорошо себя показали т.к. учатся без учителя и хорошо подражают, создавая тем самым вау эффект.

И это не помогает ему занять нишу гугла.

Я не понимаю, как майкрософт мог просрать такой момент. Казалось бы, вот звездный час получить какое-то преимущество, и есть хорошая идея, но вот так безобразно ее реализовать. Когда я в последний раз смотрел ИИ поиск бинга, он не умел шарится по тексту найденых страниц, только по заголовках и meta description. Тем временем какой-то ноунейм phind.com и другие загружали и тексты страниц, жалко что phind сейчас платный.

жалко что phind сейчас платный

Пользуюсь им уже давно, все еще бесплатный. Регистрацию стал требовать (google/github), это да, но не более.

Там же GPT-4 платно, а бесплатна только их собственная LLM в лайт версии

Пока что гугл ищет лучше. Хотя фантазии у него тоже проскакивать начали (вероятно из-за того что сайты стали делать на основе говноии контента). Раньше точнее искал.

Пока что гугл ищет лучше.

Нельзя вот просто взять и искать лучше гугла. Можно было бы хуже, но хотя б с фичей, но вот фича полностью бесполезна)