LINUX.ORG.RU

Предпосылки к созданию ИИ или, что мы знаем о нейросетях?

 ,


1

3

Во второй половине 20 века начала стремительно развиваться вычислительная техника и как следствие, людей всё больше стали посещать идеи об автоматизации того, что было делать утомительно, либо тех областей, где не удовлетворяли собственные возможности.

В те времена считалось очень перспективным и любопытным автоматизировать и такую привилегированную способность человека, как мышление.

Спорный вопрос, только ли люди могут мыслить. И раньше и сейчас найдутся те, кто считает, что человек - это единственное существо (по крайней мере, на планете Земля), обладающее способностью мыслить.

Интерес к идее создать ИИ обычно обострялся с очередными достижениями в вычислительной технике, когда повышалась вычислительная мощность компьютеров. Спад же происходил по интересным и, если вдуматься, даже забавным причинам. Если посмотреть статьи о проблемах создания ИИ, то в подавляющем большинстве все видели причину в недостаточной вычислительной мощности компьютеров. Интересно, что с момента появления первого электронного компьютера до начала 21 века вычислительная мощность возросла в миллиарды раз.

Забавно то, что за этот промежуток времени общепринятое мнение о «причине» неудач создания ИИ не изменилось. Принято приводить в доказательство состоятельности «причин» вычисления, производимые на основании данных исследований физиологии мозга. Эти данные говорят о большом количестве элементарных составляющих мозга – нейронах. Принято считать, что их приблизительно 12 миллиардов. В эквивалент этому числу ставилось количество триггеров в компьютере – элементарных вычислительных единиц логических схем. Через некоторое время суперкомпьютеры далеко перепрыгнули этот предел. Тогда нашли новый вариант обоснования «причины». Количество связей между нейронами на несколько порядков больше количества нейронов. И к тому же нейроны - это сами по себе процессоры, которые сложнее или сравнимы по сложности с существовавшими в конце 20 века.

Конечно, какая-то доля истины в таких рассуждениях есть, но существует также другой взгляд на причины неудач. Если посмотреть на подход, который использовался при попытках создать ИИ, то можно увидеть некоторое сходство с первыми попытками создать летательные аппараты тяжелее воздуха. Первые попытки создать аппараты тяжелее воздуха были весьма наивны и заключались в простом копировании внешности птиц, единственных, известных людям крупных существ, которые имели способность летать. Реальные искусственные аппараты тяжелее воздуха, которые смогли летать, появились только после того, как были изучены сами принципы полёта и разработана теория аэродинамики. После этого появилось много разнотипных летательных аппаратов, и только некоторые из них отдалённо напоминают по форме птиц. В попытках создания ИИ прослеживается похожая тенденция. Большинство разработчиков пытается «копировать» строение мозга, не разобравшись в самих принципах обработки информации, реализованные на биологических нейронных системах.

Прощу прощения за много букоф и стилистику.

У обитающего здесь народа есть мысли по поводу темы?

ptarh, Axon



Последнее исправление: Serg_HIS (всего исправлений: 1)
Ответ на: комментарий от Serg_HIS

Плохая практика. Если тебе нужен некий результат, то тебе нужно работать над этим. Если ты рассчитываешь нечто «раскачать», спровоцировать некий процесс который выведет к желаемому результату, то это бесплодный путь.

sin_a ★★★★★
()
Ответ на: комментарий от sin_a

Если ты рассчитываешь нечто «раскачать»

нет

Я выложил ветку где общался десятилетия назад с очень умными людьми.

Если Тебе есть что сазать что-то большее чем сказали в те времена - говори.

Serg_HIS
() автор топика
Ответ на: комментарий от ptarh

Это как комп, который хранил и обрабатывал бы информацию, отращивая и закрывая себе дорожки на схемах.

Напрашивается аналогия с ПЛИС.

feofan ★★★★★
()
Ответ на: комментарий от arturpub

Как хорошо было бы привить разумному существу ценности, в которых оно само тебе будет производить ништяки и свято верить, что по-другому жить западло и надо терпеть невзгоды ради общего блага. Ох же щи.

Погугли «дружественный ИИ». MIRI этим занимаются.

feofan ★★★★★
()
Ответ на: комментарий от ChudoYudo

Модели окружающего мира многих индивидуумов отражают реальность весьма отдаленно. Можно хотя бы посмотреть, как человеки в древности объясняли грозу.

feofan ★★★★★
()
Ответ на: комментарий от arturpub

Они считают появление ИИ неизбежным и работают над методикой уменьшения рисков, с этим связанных. В частности, разрабатывают концепцию «дружественного ИИ» и настоятельно рекомендуют использовать её всем, кто ведет разработки в этом направлении, в том числе готовы предоставлять собственных специалистов для этого.

feofan ★★★★★
()
Ответ на: комментарий от sin_a

Ты выложил копипасту и хочешь чтобы я с ней говорил?

Да к стати.

Эту копипасту написал лично я. Это всего лишь маленькие выдержки из мой статьи.

Serg_HIS
() автор топика
Ответ на: комментарий от Serg_HIS

Значит я неправильно понял: «выложил ветку где общался десятилетия назад с очень умными людьми».

Но на исходный пост я уже ответил:

Предпосылки к созданию ИИ или, что мы знаем о нейросетях? (комментарий)

Предпосылки к созданию ИИ или, что мы знаем о нейросетях? (комментарий)

sin_a ★★★★★
()
Ответ на: комментарий от sin_a

ты ждёшь когда некто сделает нечто

Нет. Я постоянно делаю овер дофига.

Но да, удивляюсь, что никто ничего вообще не делает и все ждут что сделаю я.

Когда прошу сделать кого нибудь хоть что-то — обижаются и делают вид что они «крендели», которым и так все должны.

Serg_HIS
() автор топика
Ответ на: комментарий от Serg_HIS

Я говорил только о том что видел здесь.

Если тебе интересен некий вопрос, то не жди пока кто нибудь будет его освещать. Не старайся спровоцировать его обсуждение. Разбирай его сам. Сам обсуждай с другими людьми. Спрашивай что тебе лично интересно или неясно.

А здесь ты задал тему для обсуждения и иногда подбадриваешь.

sin_a ★★★★★
()
Ответ на: комментарий от Serg_HIS

Чото как ты быстро с темы на тему скачешь. Не, это не ко мне, это тебе к KRoN73, или какому другому астроному.

sin_a ★★★★★
()
Ответ на: комментарий от sin_a

не скачу. Просто темы взаимосвязаны. Не вижу разницы между вещами, которые объеденены геометрией.

Беда в том, что на некоторых уровнях, люди упускают геометрические зависимости. Ну например, как только глазами не могут увидеть, сразу квантовая неопределённость. Мозги отрубились? Какая нафиг неопределённость? глаза не видят — значит не определено?

Serg_HIS
() автор топика
Ответ на: комментарий от Serg_HIS

Не знаю. Не вижу связи между обработкой информации и получением фото с орбитального телескопа (если я правильно понял о чём речь).

sin_a ★★★★★
()
Ответ на: комментарий от feofan

Прошу прощенья, но борьба за «Дружественный ИИ» - это ересь полная, которая говорит о том, что борцы занимаются вовсе не ИИ, а какими-то роботами, типа азимовских с их дурацкими законами.

Есть серьезные основания считать, что настоящий (сильный) ИИ будет мало отличаться от человека свойствами мозга (собственно это и есть определение сильного ИИ). Поэтому, дружественность - это просто вопрос воспитания и канализации врожденных потребностей в полезное обществу русло. Те, кто представляет ИИ в виде ящика выдающего ответы - все идут вызывать дух Айзека.

Есть такая родственница Китайской комнаты, как symbol grounding problem, которая запрещает мыслящие ящики. Можно сколько угодно манипулировать китайскими символами по правилам языка, но если у тебя нет ручек, то нет и конфетки. Понимание - это не манипуляция символами, обозначающими реальные предметы, события, явления. Понимание - это манипуляция реальными предметами, событиями, явлениями. Отсюда следует т. н. embodied intelligence, который должен существовать и непосредственно взаимодействовать с миром как реальное тело. Отсюда и все неудачи google translate, кстати.

Второе. Почему многие думают, что ИИ будет холодным рациональным разумом, который мигом почикает всю биоту? Вот в свете предыдущего, он должен жить телом в реальном мире. Отсюда у него должны быть потребности и инстинкты. Ну? Ведь без них даже этот геноцид биоты невозможен. Иначе встает вопрос: а зачем это ему? А раз есть блок потребностей как сущность, кто мешает заложить туда социальный мотив, как людям заложила эволюция? Почему безжалостный терминатор-то? Это невозможно. Эмоции у человека и животных - это не побочка, не эпифеномен. Это механизм, который страданиями был выработан эволюцией, чтобы согласовать взлетающий в эмпиреи высокий разум с базой, с телом. Где-то наркотизировать, где-то пессимизировать во избежание.Сказать, что ум управляет нами - это сильно слукавить. Ум умный, да. Он может фантазией - внутренним представлением последствий одного мотива нейтрализовать другой. Он все считает. Но иногда он вообще не при делах.

Третье. Нельзя ли как-то один раз вырастить интеллект в реальной среде, а потом, когда он овладеет пониманием, поместить его головенку все-таки в ящик и наштамповать еще мильен таких голов по образцу, чтоб думали обо всем круглый год? Ну, на манер головы профессора Доуэля? Нельзя! Я уже говорил, что мозг - прямое продолжение эволюции по принципам работы (методу тыка, свобода тыка которого ограничена инфой, полученной в прошлом). Это проблема кошки на заборе во время наводнения. Как и кошка, любой биологический вид и любой мозг, зашедший в своей специализации в тупик, хотели бы перепрыгнуть на крышу дома, но ни кошка, которая ранее сделала свой неверный выбор, ни вид, который не может упроститься обратно до амебы и начать сначала, ни мозг не могут отбросить прошлое и свою зашоренность. Только разнообразие рождает гениев.

rubic
()
Ответ на: комментарий от rubic

Почти со всем согласен.

Восновном есть возражения по теме, слабого/сильного ИИ.

Будет отличаться многими параметрами, объём памяти, скорость перебора, точность, количество одновременных сравниваемых ассоциаций. В этом компьютерные мозги однозначно переплюнут человеческие (иначе и смысла в них нет). Останется, в некотором смысле, схож принцип работы с ассоциациям (образами).

Serg_HIS
() автор топика
Ответ на: комментарий от Deleted

Спасибо что напомнил.

Вчера немного поковырялся.

Решу текущие задачи, продолжу.

Serg_HIS
() автор топика
Ответ на: комментарий от Serg_HIS

иначе и смысла в них нет

Смысла тут выше крыши в том смысле, что преодоление ограничений биологии уже было бы немалым прорывом, даже если бы электронные мозги были бы в начале слабее. Не возникало бы например вопроса как отобрать смертников на Марс.

По поводу вами перечисленного, я не жду прорывов. Среда, в которой мы обитаем, на мой взгляд не позволяет использовать такие преимущества. Скорость перебора? А разве пространство вариантов обозримо? Так какая разница какая скорость? Память? Во многом знании много печали. Память жестко убивает вариативность, когда у вас все в памяти, вы костенеете. Безусловно, ИИ будет обладать возможностью отжига-встряски, когда память намеренно стирается, чтобы пробовать варианты запрещенные памятью)) И т. д.

rubic
()
Ответ на: комментарий от rubic

Согласен, что для некоторых задачь не нужен интеллект сопоставимый с каким нибудь научно исследовательским интситутом.

Для автопилота автомобиля, хватит и менее разностороннего чем даже тот же незадачливый хозяин севший не трезвым за руль. Ему хватит данных про правила дорожного движения, инфы куда ехать и несколько десятков рефлексов, на какие нибудь преграды на пути.

Давно говорил, что мощности компов хватет на практически любые задачи, который может себе вообразить человек.

А зачем перебирать бездумно всё пространство вариантов?

Есть логика, она и отсекает не нужные варианты. И есть сенсоры, которыми можно (и нужно) следить за логикой пространства, изучать, получать опыт, что взаимосвязано, а что не очень.

Serg_HIS
() автор топика
Ответ на: комментарий от rubic

Факты мешаешь с предположениями и делаешь далеко идущие выводы. Диванный эксперт как есть. Ты лучше почитай, что пишут эти люди, которые это десятки лет изучают, прежде чем категорически отвергать их точку зрения, даже с ней не ознакомившись.

feofan ★★★★★
()
Ответ на: комментарий от feofan

Дружественный ИИ - это ересь, мой друг, какие бы заслуженные профаны об этом не писали, включая автомеханика Маска или физика Хокинга. Люди просто не в теме, как и ты.

rubic
()
Ответ на: комментарий от arturpub

в которых оно само тебе будет производить ништяки и свято верить, что по-другому жить западло и надо терпеть невзгоды ради общего блага. Ох же щи.

Потом оно взломает свой кот и выяснит, что его сдерживает: «тут надо все переписать»

slackwarrior ★★★★★
()
Ответ на: комментарий от rubic

Ведь без них даже этот геноцид биоты невозможен. Иначе встает вопрос: а зачем это ему?

Оптимизация. Какие-то почемучки на входе спамят вопросами о 42, отвлекая от размышлений о жизни, вселенной и что тут вообще происходит.

slackwarrior ★★★★★
()
Ответ на: комментарий от rubic

Это проблема кошки на заборе во время наводнения.

Это не проблема кошки, а притянутого за уши примера, расходящегося с наблюдениями (и про перепрыгивания тоже :) Кошки в выживательном смысле поприспособленнее среднего хомосапиенса и гораздо ближе к прямой борьбе за сцучествование, не надо тут лозунгами разговаривать :))

slackwarrior ★★★★★
()
Ответ на: комментарий от feofan

Если многократно повторить чушь, правдивее она не станет, только правдоподобнее

На этом рекламные ролики и посмотроены.

Ну да ладно. Простой пример.

Вы ИС (интеллектуальной системе) показываете круг и говорите - это квадрат!

Потом показываете квадрат и опять говорите - квадрат!

Умная ИС (не смотря на то что вы ей хотите впарить) смотрит на вас как на «редиску» и спрашивает, а как же это квадрат, если он нифига не похож на то, что ты назвали первый квадрат? А ты говоришь, да похож этот квадрат на тот квадрат, просто ты тупая ИС! Так вы будете «вшивать» «доброту» и заставлять выбросить из «головы» «плохое»?

Serg_HIS
() автор топика
Ответ на: комментарий от Serg_HIS

Нет. «Доброту» или «дружелюбие» не надо «вшивать». Это не должна быть система ограничений, как у Азимова, это должно быть основой мотивации, как эмоции и инстинкты у гомосапиенсов. В том числе мотивации к самомодификации и оптимизации. Глупо считать, что возможен только интеллект полностью аналогичный человеческому по той простой причине, что другого мы не знаем и, в большинстве, вообразить не можем.

feofan ★★★★★
()
Ответ на: комментарий от Serg_HIS

И совсем не обязательно повторять все присущие человеку когнитивные искажения.

feofan ★★★★★
()
Ответ на: комментарий от feofan

Так я и спрашиваю, как по твоему это будет выглядеть? Как она будет вшита/(не вшита), эта ваша выдуманная система ограничений?

Нельзя построить так систему, чтобы оно сразу стало как надо.

Её нужно воспитать (научить). И да, многие вещи в её мозге будут зависить от физиологических потребностей тела.

И главное воспитать её так, чтобы кошка например срала только в свой горшок и не лезла на стол таскать катлеты.

Потому я всегда рассматривал ИС, как общую структуру, тело + мозг.

Нет никакого ИИ отдельно. Свойство - интеллект есть, а Разум - это вместе с телом. В целом ИС.

Serg_HIS
() автор топика
Ответ на: комментарий от Serg_HIS

Как она будет вшита/(не вшита), эта ваша выдуманная система ограничений?

Читай внимательнее, я говорил, что это не система ограничений, а самая основа, можно сказать, когнитивное ядро.

Нельзя построить так систему, чтобы оно сразу стало как надо.

Можно и нужно. Не на нулевом этапе, конечно, когда еще ничего нет, но «как можно скорее». Грубо говоря, как только система сможет это осознать.

Её нужно воспитать (научить). И да, многие вещи в её мозге будут зависить от физиологических потребностей тела.

Откуда взялся мозг? Что ты подразумеваешь под этим термином? Если кусок биомассы, то причем тут ИИ?

[дальнейшие рассуждения про мозг и тело...]

Давай сначала разберемся с терминологией.

feofan ★★★★★
()
Ответ на: комментарий от slackwarrior

отвлекая от размышлений

А зачем тебе эти размышления?

sin_a ★★★★★
()
Ответ на: комментарий от feofan

Давай сначала разберемся с терминологией.

Правильно - пойди разберись для начала.

Serg_HIS
() автор топика
Ответ на: комментарий от feofan

Давай сначала разберемся с терминологией

Мне проходилось учавствовать во множестве форумов по темам ИИ.

Всегда находились ребята, которые говорили эту скоровенную ФРАЗУ.

Дальше как правило никак тема не развивалась.

Я в начале топикак предлагал терминологию и даже показывал примитивы как базис для свойсвта интеллект.

Не нравится - предложи свой вариант.

Serg_HIS
() автор топика
Ответ на: комментарий от feofan

я говорил, что это не система ограничений, а самая основа, можно сказать, когнитивное ядро

Дай пример, что ты имеешь ввиду.

А то сказал слово - основа. Я например описал на примере круга и квадрата, как работает ИС, в моем представлении. Даже если ты будешь пытатся ее откровенно нае(наколоть).

Serg_HIS
() автор топика
Ответ на: комментарий от Serg_HIS

Система должна работать как идеальный байесовский агент: уточнять вероятности в соответствии с поступающей информацией.

feofan ★★★★★
()
Ответ на: комментарий от Serg_HIS

Дело в том, что ты под этим словом подразумеваешь что-то своё. Если ты предлагаешь мне гадать, что именно, мы упремся в спор об определениях.

feofan ★★★★★
()
Ответ на: комментарий от Serg_HIS

Основа мотивации, основной инстинкт, если тебе так понятнее. Эта основа должна быть запрограммирована человеком.

feofan ★★★★★
()
Ответ на: комментарий от feofan

Основа мотивации, основной инстинкт, если тебе так понятнее

Это ты про конечный автомат. который физически может делать только что что может.

Например атомат в метро, он только глотает жетоны, и пропускает тебя. Либо наоборот. Всё.

Всё больше он ничего не делает. Там нет обучения, хотя интеллект присутствует. Распознавать жетоны - умеет.

Если касательно обучающихся систем, то основной инстинкт например у человека пожрать и потра(завести потомство).

И это не значит, что он для этого не отберёт еду у другого и/или не убъёт того, кто претендовал на его потра(предмет любви) или туже жратву.

Не?

Serg_HIS
() автор топика

Искусственные нейросети (ИНС) - не единственные модели, разработанные для прикладных задач ИИ (читай, машинного обучения). Например, в 90-е и в первой половине 2000-х, когда не было вычислительных возможностей тренировать многослойные сети, для задач классификации «по примерам» была развита теория обучения на произвольных ядрах и метод опорных векторов. Был также придуман эффективный алгоритм для численного решения соответствующей задачи квадратичного программирования.

На сколько я понимаю, никаких видимых аналогий с нейронами, синапсами и остальной биологией у МОВ нет, их связывает с ИНС разве что теоретические оценки вроде размерности Вапника-Червоненкиса, в остальном это решение конкретной оптимизационной задачи, и «натренированный» классификатор ОВ, видимо, показывал лучшие результаты в задачах классификации по сравнению современными ему моделями ИНС.

МОВ также лишён некоторых недостатков традиционных ИНС, в частности, алгоритм тренировки сходится к оптимальному решению вне зависимости от выбора начальных условий (таковых условий, в смысле ИНС - архитектура сети, распределение весов - у МОВ вообще нет). Вместо этого в МОВ выбирается ядро (читай функция, отображающая из мн-ва фич в целевое мн-во классификатора, причём, мн-во фич может быть произвольной природы) и задаётся граничный параметр разделяющих гиперплоскостей.

Это чисто математическая задача, без каких-либо намёков на биологию, т.е., как раз попытка воспроизвести функциональность без воспроизведения организации.

P.S. Вездесущий аргумент с птицей и самолётом корректен только частично. Парящая птица принципиально не отличается от самолёта.

seiken ★★★★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.