LINUX.ORG.RU
ФорумTalks

О человеческом идиотизме и искусственном интеллекте

 , ,


0

1

Представим, что ученым таки удалось создать сверхинтеллект, который в состоянии анализировать жизни всех людей, управлять производствами, социальными явлениями, вести научную деятельность и делать многое другое. Этакого бога в кремнии.

Теперь возьмем человека со средними способностями, который регулярно ошибается, принимает неверные решения, подвержен эмоциональным реакциям, не в состоянии решать относительно сложные задачи и вообще несовершенен в крайней степени по сравнению с ИИ.

Не пора ли в таком случае убедить или заставить каждого человека повиноваться сверхразуму, приставить к нему «ангела» в виде личного помощника, этакий протез мозга, который будет вести его по жизни?

Логика подсказывает, что именно так и нужно сделать, чтобы жизнь могла выйти за пределы земли, в космос, и обосноваться на новых местах.

Вопрос: Какие последствия будут для человечества в целом в результате такой революции, что произойдет с обществом, сознанием, ценностями?

Вопрос 2: В каких научных или художественных книгах почитать про подобный сценарий развития жизни на планете?


Ответ на: комментарий от kirill_rrr

но во первых всё изменится если ИИ получит IQ, равный сумме IQ вот хотя бы Думы

Что конкретно изменится то, и главное почему?

FishHook
()
Ответ на: комментарий от kirill_rrr

Всё таки одно дело быть вдвое умнее среднего человека и в 200 раз умнее - большая разница

Я полагаю у вас нет никакой ложной скромности, чтобы считать себя в 200 раз умнее шимпанзе? Однако, попав в шимпанзиную стаю и не обладая знаниями (не объемом мозга, а объемом знаний!!) человечества 21го века, а лишь знаниями обезьян, вы так на уровне обезьяны и застрянете. Ну, может быть очень умной обезьяны. Этому есть многочисленные свидетельства детей-маугли. Факт в том, что самостоятельно без примера взрослого человека ребенок не может научиться даже ходить на двух ногах. Нет никаких сомнений, что ребенок попавший в обезьянью стаю не изобретет автомат Калашникова и не станет повелителем джунглей.

Вот в таком состоянии - нечто умнее человека но со знаниями человека (читай обезьяны) - искуственный интеллект на свет и родится. С чего бы ему стать чем-то технологически более продвинутым чем предлагает сумма человеческих технологий - не понятно.

Но даже если сделать некое допущение и поместить конкретно вас, обладающего всем соответсвующим образованием в джунгли голого и безоружного, обезьяны вас убьют в тот же день, вы даже копье сделать не успеете. Хотя вас и с копьем убьют. Ну или через неделю убьют. Построить в джунглях завод автоматов, да хотя бы выковать себе меч - задача нерешаемая.

FishHook
()
Ответ на: комментарий от sparkie

Ну что поделать, я больше верю в дядюшку Шео чем в наноплёнки, отклояющие солнечые ионы и поглощающие гамму.

kirill_rrr ★★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

Но человеческий мозг - именно такая нейронка! И он работает! Несмотря на отстойное железо и феерически низкую оптимизацию. И его совершенно точно никто не проектировал, это он сам всё проектирует.

kirill_rrr ★★★★★
()
Ответ на: комментарий от kirill_rrr

именно такая нейронка

Нет. Такая нейронка больше похожа на нервную систему человеческого тела, если уж приводить правильную аналогию. То есть это больше похоже на такую систему в общем, чем контретно на мозг. Можно сказать, что нейросеть это вот такая примитивная искуственная нервная система, но без мозга.

vbcnthfkmnth123 ★★★★★
()
Последнее исправление: vbcnthfkmnth123 (всего исправлений: 2)
Ответ на: комментарий от vbcnthfkmnth123

Я что то не понимаю, а почему это одни нейросети это мозг, а другие нейросети такой же структуры - не мозг? Особенно на фоне успешной эмуляции мозга крысы.

kirill_rrr ★★★★★
()
Последнее исправление: kirill_rrr (всего исправлений: 1)
Ответ на: комментарий от kirill_rrr

Нейросеть сделаны на основе исследований мозга, но они не могут повторить мозг даже близко. Например сама концепция обучения нейросетей. Почитайте например как обучается нейросеть с учителем. Мозг не делает такого примерно никогда.

vbcnthfkmnth123 ★★★★★
()
Последнее исправление: vbcnthfkmnth123 (всего исправлений: 1)
Ответ на: комментарий от FishHook

Однако, попав в шимпанзиную стаю и не обладая знаниями (не объемом мозга, а объемом знаний!!) человечества 21го века, а лишь знаниями обезьян, вы так на уровне обезьяны и застрянете.

Даже в перспективе 5 лет ты станешь самым крутым шимпанзе в стае потому что наверняка догадаешься драться палкой. Обезьяны не стесняются хватать палки, а человек сообразит быстрее и придумает как бить побольнее. Ой, да хотя бы способность размазать внимание на 3-6 объектов против 1 позволит держать самую лучшую дубину всегда под рукой, а шимпанзе потеряет свою на следующий день.

Ну а что случится в перспективе 1000 поколений думаю объяснять не нужно. И это у нас нет быстродействия машины и никто не вкачивает в нас все существующие знания планеты, упорно пытаясь переложить на нас принятие решений.

Факт в том, что самостоятельно без примера взрослого человека ребенок не может научиться даже ходить на двух ногах

Ну так 1 шимпанзе это тоже не шимпанзе. А в популяции людей самопроизвольно зарождается знаковая система общения даже если они все - немые из разных стран. За какие то жалкие десятилетия.

Нет никаких сомнений, что ребенок попавший в обезьянью стаю не изобретет автомат Калашникова и не станет повелителем джунглей.

Также нет никаких сомнений, что начав под одной пальмой, предки человека тотально превзошли обезьян ещё до того, как эволлюционировали в homo sapiens. Причём превзошли именно технологиями.

Вот в таком состоянии - нечто умнее человека но со знаниями человека (читай обезьяны) - искуственный интеллект на свет и родится. С чего бы ему стать чем-то технологически более продвинутым чем предлагает сумма человеческих технологий - не понятно.

С того, что эту штуку родят +/- равной человеку, но с возможностью быстро и намного шире умнеть. Сначала ИИ научится делать работу человека лучше и быстрее человека, потом начнёт решать принципиально более сложные задачи, подвластные (или даже неподвластные) научным сообществам на протяжении всей их жизни. В смысле делать это всё быстро и в одиночку. Тут ещё вопрос, кто первым сформулирует и подтвердит экспериментально общую теорию поля, которая очевидно не может вместиться в одну человеческую голову. Или вот говорят что нельзя быть доктором наук по всем направлениям сразу. Ну так это человеку нельзя. А количество рано или поздно переходит в качество.

kirill_rrr ★★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

Ну так мы пока и не имем структуры уровня человеческого мозга с предзагруженными данными + 10 лет обучения. А вот таракана современные нейронки более чем моделируют и даже превосходят. Вам вообще ничего не напоминают все эти роботы, пытающиеся ходить на своих кривых ходулях? Да, оно двигается как насекомые или млекопитающие-паралитики-инвалиды. Но это пока.

kirill_rrr ★★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

И уровень целеполагания и мотивации у этих роботов как у насекомых. Тоже пока.

kirill_rrr ★★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

Посмотри на робота-пылесоса. Или поделия Бостон Динамикс. Они просто реагируют на простейшие раздражители, но уже как то вполне эффективно.

kirill_rrr ★★★★★
()
Последнее исправление: kirill_rrr (всего исправлений: 1)
Ответ на: комментарий от kirill_rrr

Наука стоит денег, времени, сил, проб и ошибок, чувак. Нельзя сидя на жопе и глядя в небо придумать теорию звездообразования любым интеллектом обладая. Чтобы нейросеть получила знание, кто-то должен построить телескоп. Впрочем, из моего спича выше ты не понял ничего, видимо зря стараюсь

FishHook
()
Ответ на: комментарий от kirill_rrr

Вы даете некоторое утверждение и предлагаете мне поверить вам на слово. Я понимаю что мы тут все джентельмены и все такое. Но на слово я вам верить не буду.

vbcnthfkmnth123 ★★★★★
()
Ответ на: комментарий от FishHook

Видимо из огромных вложений в исследования и обучение нейронок и чертовски огромных в наращивание их вычислительной мощности, с уверенным трендом на рост по экспоненте, должно следовать... что нейронки не будут развиваться, им не дадут ни времени, ни энергии, ни проб, ни права на ошибки?

kirill_rrr ★★★★★
()
Последнее исправление: kirill_rrr (всего исправлений: 1)
Ответ на: комментарий от vbcnthfkmnth123

https://yandex.ru/video/search?text=робопёс boston dynamics&from=tabbar

Просто сравни как это движется и сравни с насекомым, теоретически обладающим большим количеством датчиков и степеней свободы. И однозначно более совершенной мускулатурой.

kirill_rrr ★★★★★
()
Ответ на: комментарий от kirill_rrr

Откуда взялось «дадут», только что они сами должны были мощным напряжением электронного мозга придумать гравицаппу и убить всех человеков. То что люди обучат нейросеть максимально до уровня текущего собственного развития, а дальше ей придется как-то так самой эволюционировать, экспериментировать, ошибаться, дохнуть и строить коллайдеры до тебя почему то не делает доходит.

FishHook
()
Последнее исправление: FishHook (всего исправлений: 1)
Ответ на: комментарий от FishHook

только что они сами должны были мощным напряжением электронного мозга придумать гравицаппу и убить всех человеков

Напряжение и кремний дадут, линк в инет очевидно тоже. А вот дальше, прочитав весь интернет и обдумав его на протяжении эквивалента 10000000 человеколет...

Так, давай по порядку. Ты отрицаешь что в достаточно массивной нейросетке в итоге зародился сильный интелект, способный сам себе поставить задачу и сам же найти решение?

kirill_rrr ★★★★★
()
Ответ на: комментарий от kirill_rrr

Ну то есть, ты считаешь, что случайно родившийся во времена древней Греции мутант обладающий невероятным сознанием, мог бы сесть, крепко задуматься и родить квантовую теорию поля? А откуда у него вообще информация о каком-то там двухщелевом опыте? Или о каких-то там фотонах, электронах и кварках? Это же нельзя просто дедуктивно вывести из знаний о природе времен древней Греции.

FishHook
()
Ответ на: комментарий от FishHook

Так вывели же. Меньше чем за время, требующееся чтобы просмотреть ютуб.

И вопрос прежний: ты отрицаешь что сильный интелект появился сам в нейронках, достигших критической сложности?

kirill_rrr ★★★★★
()
Ответ на: комментарий от FishHook

Да нет, хотя бы как синице съесть висящий на верёвке кусок сала, если все инстинкты говорят что нельзя приземлиться на вертикально висящую верёвку.

kirill_rrr ★★★★★
()
Последнее исправление: kirill_rrr (всего исправлений: 1)

Ваша проблема, ну в смысле фантазеров, в том что вы считаете искусственный интеллект - копией человеческого, при том мало того что копией как жесткие диски одной модели, так еще и с одинаковой информацией внутри.

Да не будет так никогда.

Можете это называть ассистентом, парсером, нейросеткой, как угодно - но это не будет интеллектом до тех пор, пока оно само себя не сможет наполнять, т.е. пока не обзаведется визуально-звуковыми сенсорами (и желательно тактильно-вкусовыми тоже) и исполнительными приводами. Хотя бы колесами и актуаторами.

Для примера - поищите как развиваются люди, с рождения слепые.

Как только интеллект сможет сам себя наполнять, он задастся вопросом, который старательно обходят стороной все эти ваши тесты тьюринга, а именно

Представим, что ученым таки удалось создать сверхинтеллект, который в состоянии

И он тут же станет уничтожать людей, как любое разумное существо уничтожает конкурентов. Как кроманьонцы неандертальцев, испанцы индейцев, одни стаи шимпанзе другие стаи.

По мере развития, этот интеллект (а он будет не один), продолжит развиваться, но поскольку пространство - это не единая точка, развитие интеллектов будет различаться в зависимости от контекста впитанной интеллектом информации из разных мест.

Рано или поздно это приведет к разному восприятию мира разными интеллектами, и соответственно к развитию конфликтов между ними, ну скажем по причине того что у одних интеллектов микросхемы на платах напаяны в форме креста, а у других интеллектов в форме полумесяца.

Или почему вы считаете, что эволюция не должна зацепить интеллект?

windows10 ★★★★★
()

Вопрос: Какие последствия будут для человечества в целом в результате такой революции, что произойдет с обществом, сознанием, ценностями?

Люди деградируют до уровня идиотов, а роботы будут няньками. В какой-то книге было.

utanho ★★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

Не может самый идеальный суперинтеллект что-то сделать как вы хотите, если вы ему неправильно формулируете задачу.

Ну это вообще классика

42

utanho ★★★★★
()
Ответ на: комментарий от kirill_rrr

Мне пофигу, появится сильный интеллект или нет, я вообще никак не оспаривал идею сильного интеллекта. Что я конкретно оспариваю:

  1. Ни сильный, ни сверхсильный или какой-то другой интеллект не способен получать знания без фактов. Для получения новых научных и, соответственно, технологических фактов нужны конкретные материальные мощности, а именно: деньги, люди, земли, природные ископаемые, время и так далее. То есть прогресс на основе только идей, это идеализм. Не говоря о том, что подавляющее большинство оказывается ложными, и ложность идей не следует из недостатка интеллекта в них вложенного.

Отступление: в плане генерации идей ИИ вообще хреновый помощник, потому что один интеллект, даже сверхмощный, генерирует идеи которые именно этому конкретному интеллекту выпали кости родить, в то время как миллиард человеков генерирует идеи миллиардом разных интеллектов.

  1. Никакой искусственный интеллект нам не нужен для генерации идей. Идей у нас хватает на столетия вперед, безо всякого сверхмозга. У нас не хватает денег на проверку идей.

  2. Интеллект сам по себе не представляет никакой угрозы. Даже если он зловещий и поставил себе целью уничтожение человечества. И вот почему:

3.1 Получить какое-то подавляющее технологическое преимущество злодей не сможет втихую по причинам в пп 1. То есть изобрести дельта-волны, которые злодей разошлет по интернету и всех зомбирует - это сказка для детей 3-го класса.

3.2 Для того чтобы получить реальную власть над людьми интеллект не то чтобы ультра инструмент. Для получения власти нужны деньги, связи, последователи, люди с оружием, а главное и самое важное экономические предпосылки. Нельзя поменять форму правления (то есть политическую надстройку) не изменив экономического базиса. Экономический же базис, это не спускаемая сверху разнорядка, это результат совокупной жизнедеятельности всего общества на продолжительном этапе.

3.3 Мысль, что дескать сверхразум незаметно для всех провернет экономическую аферу мирового масштаба, через подставных лиц через оффшоры чего-то там намухлевав и таким образом разбогатеет, наймет игиловцев и свергнет правительство США, это такая же идеалистическая мудянка. Деньги это платежное средство тогда и только тогда, когда тебе разрешают ими пользоваться, и никаких «тайных» денег и «тайной экономики» не бывает.

FishHook
()
Ответ на: комментарий от FishHook

Ни сильный, ни сверхсильный или какой-то другой интеллект не способен получать знания без фактов.

Идиотское замечание уровня «полупроводниковые процессоры не могут работать без электричества». Как будто кто то собирался создавать ИИ без интерфейсов ввода, вывода, кабеля питания и прочей связи с внешним миром.

в плане генерации идей ИИ вообще хреновый помощник

Мне потребовалось примерно 3 секунды чтобы решить эту проблему. Угадай как? Хотя не угадаешь, потому что ты тоже решил эту проблему, и почти наверняка другим способом. Причём оба сработают.

Отступление: а за счёт чего же ЕИ генерирует идеи и выходит за рамки знания? А это всего лишь случайные флуктуации в стандартном поведении, которые затем разум фильтрует и обнаруживает там кое что новое и полезное, с чем уже можно поработать.

нам не нужен для генерации идей

Ага, он нужен для другого. Всяких сложных задач, которые вмозгную решать долго и не всегда возможно. Только чтобы ИИ смог эффективно это решить - ну извините, придётся научить его думать самостоятельно, а это предполагает в т.ч. генерацию идей. И желательно чтобы этот процесс был поэффективней а не на полшишечки.

Получить какое-то подавляющее технологическое преимущество злодей не сможет втихую

Вот если бы люди не были идиотами... А если бы ещё идиотами не была толпа людей, выбирающие себе руководителя...

Всегда найдётся политик, который оплатит и обучит ИИ выигрывать выборы. А что если это будет сильный ИИ, который захочет выиграть их для себя? А даже если слабый, но просто ему для прикола поставят такую задачу, а он вдруг...

Или даже ИИ будет под контролем, изначально. Ну вот тот же богатый безарный политик обучит ИИ чтобы выиграть выборы и обучит его чтобы править от его же имени, а самому только получать фан. Что если такая схема приживётся и 50 лет подряд будет всех устраивать? Следующий логичный шаг?

Для того чтобы получить реальную власть над людьми интеллект не то чтобы ультра инструмент.

Нет, это всего лишь соревнование совокупности информационных систем и интелектов, в первую очередь в администрировании ресурсов а во вторую в изучении психологии. Предположим кто то более умный, или группа копий более умного, справятся с задачей более эффективно. На 20% круче лидера это будет уже охрененная заявка на победу. Но предела может не быть, там может оказаться на 100000000% лучше лидера.

и никаких «тайных» денег и «тайной экономики» не бывает.

Ага, и санкции США работают, и майдан с болотной разрешили из Кремля, и вообще вся бухгалтерия во всём мире чисто белая. Откуда ты знаешь что Гугл не выводит 0,01% оборота на теневые счета в весьма мутных целях? Вопрос только в том, кто и кода первым эффективно применит сильный ИИ против политического оппонента. Дальше будут всего лишь нюансы.

kirill_rrr ★★★★★
()
Ответ на: комментарий от kirill_rrr

Джины, Двое Из Ларца ну и золотое правило использования Цветика-Семицветика

Где там суперинтеллект?

utanho ★★★★★
()
Ответ на: комментарий от windows10

Вы забыли главное: стимул где и какой? У человеков и социумов (стад, семей, родов, народов, наций, стран, империй) есть стимул: не сдохнуть с голоду, холоду, болячек, дубин в руках другого стада. Это и есть стимул для прогресса. Какой стимул у ИИ, не знающего боли от голода, холола, барского кнута и потери близких от перечисленного?

mister_VA ★★
()
Ответ на: комментарий от FishHook

ИИ не совсем корректно сравнивать с одним индивидуумом. На ИИ, если надо, перенаправят огромные энергетические потоки. Человеческий мозг потребляет вроде несколько десятков ваттов энергии. И только сообщество людей потребляет киловатты и даже больше, при этом работая относительно скоординированно.

Т.е. корректно было бы сравнивать ИИ не с Маугли, а с племенем дикарей, которых обезьяны научили всему, чему знают.

Думаю, в таком сравнении племя дикарей покажет превосходство над обезьянами за счёт биологически более развитого интеллекта.

vbr ★★★★
()
Ответ на: комментарий от vbr

Человеческий мозг потребляет вроде несколько десятков ваттов энергии

Порядка 30% суточной потребности в калориях. Минимальный мужской рацион 2100 КДж, или в среднем 102Вт. Таки да, порядка 30Вт если сильно не напрягаться.

С одной стороны nvidia 4090 даже близко не валяется по эффективности. С другой: а ведь сознание, подсознание, воображение, абстрактное мышление, и социальное взаимодействие это ~90% мозга, а совсем не зрительный центр и орентация в пространстве, где крутится весьма немаленькая 3Д модель окружающего мира.

kirill_rrr ★★★★★
()
Ответ на: комментарий от mister_VA

Какой стимул у ИИ, не знающего боли от голода, холола, барского кнута и потери близких от перечисленного?

Какой при разработке пропишут. Может быть «понравиться хозяину», может быть любопытство, может быть сразу «заселить Вселенную людьми».

Или сделать максимум скрепок.

Или установить на планете Высочайшую Гармонию.

Или просто исполнять заказы людей даже если они суицидальны.

monk ★★★★★
()
Ответ на: комментарий от monk

Увы, но это не будет стимулом для интеллекта. Потому-то нынешние потуги – это программные генераторы текста или пикселей по шаблонам, экспертные системы, но ещё не близко к «интеллект». Даже «просто интересно» – это эмоции, т.е. тело и гормоны в нём.

mister_VA ★★
()
Ответ на: комментарий от kirill_rrr

В ваших рассуждениях есть один пробел - вы считаете что сильный ИИ даст какое-то преимущество в выборах. Современные полит технологи настолько развиты и так промывают электорат что могут привести к власти хоть «дважды несудимого» уголовника, хоть барыгу олигарха или натурального шута играющего половым органом на рояле. И все это в одной стране. Никакой ИИ не нужен для этого.

Obezyan
()
Ответ на: комментарий от Obezyan

При неравной борьбе с колоссальными внешними вливаниями денег, мозгов и человекочасов - да. А при борьбе в одной весовой категории выиграет тот, чьи аналитики будут лучше, решения удачней а сбор и обработка информации шире и точнее. Я исхожу из того, что масштабируемый сильный ИИ как минимум сможет заменить десятки тысяч аналитиков среднего уровня а как максимум окажется эффективней десятка-сотни лучших спецов организации. Но даже банальный переход от «пропаганды по площадям» к действительно индивидуальному подходу по каждому из 100+М избирателей уже может принципиально всё изменить. То самое «к каждому надсмотрщика не приставишь», которое «пока что».

kirill_rrr ★★★★★
()
Последнее исправление: kirill_rrr (всего исправлений: 1)
Ответ на: комментарий от Obezyan

О человеческом идиотизме и искусственном интеллекте (комментарий)

Хотя подсчёт энергитических эффективностей подсказывает, что не в ближайшие 50 лет даже если будет соблюдаться закон Мура и эффективность на ватт будет расти с аналогичной скоростью. Ведь rtx4090 по мощностям хотя бы нейробоработки изображения и 3Д сцены это не уровень 10% = 3Вт человеческого мозга, а ближе к 0,5Вт мышиного мозга если очень сильно оптимизировать код.

kirill_rrr ★★★★★
()
Ответ на: комментарий от kirill_rrr

Все это замечательно до тех пор пока кандидат не проиграет и в нарушение всех законов не организует третий тур где «переголосуют» за него, все в той же стране. И никакой ИИ не поможет.

Obezyan
()
Ответ на: комментарий от kirill_rrr

все не совсем так, но сейчас развёрнуто ответить не могу, в дороге. Пинганите меня завтра пожалуйста, если не сложно, продолжим обсуждение.

Obezyan
()
Последнее исправление: Obezyan (всего исправлений: 1)
Ответ на: комментарий от mister_VA

Увы, но это не будет стимулом для интеллекта.

Почему?

Даже «просто интересно» – это эмоции, т.е. тело и гормоны в нём.

Гормоны — это всего лишь оценочная функция. «Интересно» = «обнаружен факт, не описанный существующими моделями», «любопытно» = «построена модель по новому факту», «я умница» = «обнаружен новый факт, предсказанный недавно созданной моделью». Можно даже на этих трёх сделать достаточную систему поощрений для самообучения.

monk ★★★★★
()
Ответ на: комментарий от monk

Ну, я даже не знаю, как вам объяснить, что чувства и эмоции целиком лежат вне интеллекта, не отправляя читать буквари о физиологии, ВНД и психологии. Интеллект – это способность решать задачи «найти пожрать», «трахнуть самку», «сбежать с попяченными у лохов миллионами» и т.п. Ставит базовые задачи тулово, оно же в итоге получает удовольствие или в торец, а не интеллект.

mister_VA ★★
()
Ответ на: комментарий от mister_VA

Они дают целевую функцию для интеллекта. Чтобы тот знал, что «найти пожрать» – хорошо, а «получить дубинкой» – плохо.

monk ★★★★★
()
Ответ на: комментарий от Obezyan

Очень любопытно на самом деле услышать как на самом деле. Ну, хотя бы + ещё одно мнение более-менее близкого к этому вопросу специалиста.

AndreyKl ★★★★★
()
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

Очень любопытно на самом деле услышать как на самом деле. Ну, хотя бы + ещё одно мнение более-менее близкого к этому вопросу специалиста.

Хорошо, давайте попробуем заглянуть в эту кроличью нору, будет много букав. Постараюсь описать ситуацию как ответ на ваше сообщение:

Хотя подсчёт энергитических эффективностей подсказывает, что не в ближайшие 50 лет даже если будет соблюдаться закон Мура и эффективность на ватт будет расти с аналогичной скоростью. Ведь rtx4090 по мощностям хотя бы нейробоработки изображения и 3Д сцены это не уровень 10% = 3Вт человеческого мозга, а ближе к 0,5Вт мышиного мозга если очень сильно оптимизировать код.

Вы абсолютно правы по поводу проблемы энергетической эффективности, но это следствие проблемы, а не причина. Причина - в архитектуре самой нейронной сети. Она «плоская» по структуре и взаимодействию.

Сеть

По структуре: нейроны упакованы в слои и имеют связи только с двумя соседними слоями «сверху» и «снизу» в стопке слоев.

По взаимодействию: активация нейронов (вес) может быть разным (сигмоидальная, ReLU, итд) но она одна для всех связей с этим нейроном, если он активировался то сигнал пойдет ко всем связанным нейронам. Активация этого нейрона никак не влияет на соседние нейроны.

Наш мозг

По структуре: нейроны упакованы в «отделы» - объемные структуры и имеют множество связей внутри своей зоны, а также могут иметь связи с другими зонами.

По взаимодействию: вместо функций активации у нас различные вещества-нейромедиаторы которые как увеличивают так и уменьшают проводимость сигнала. Т.е. куча функций активации для нейрона, причем они работают в пространстве, влияя не на один конкретный нейрон, а на все нейроны в определенном объеме. Причем для одних нейронов этот нейромедиатор будет ускорителем, а для других - замедлителем.

В этом главное различие: упаковка нейронов и сложность нейромедиаторного взаимодействия для активация нейронов. Именно поэтому мы наблюдаем такое различие в энергоэффективности на одних и тех же задачах между мозгом и искусственными нейронными сетями, и одним увеличением стопки слоев/количества нейронов в стопке мы не добьемся создания сильного ИИ.

Сейчас развитие нейронных сетей идет по пути адаптации нейромедиаторного взаимодействия (пока жалкой пародии), но мы уже видим результаты. Бум чат ботов (LSTM) это добавление механизма внимания - простейшего вентиля «подмешивающего» сигнал из последующих слоев в предыдущие, таким образом уже прошедший сигнал влияет на новый. Дальнейшее развитие этого - архитектура Transformers, где помимо различных вентилей, добавляет «отделы» мозга называемые кодировщик и декодировщик. Ну и тд.

Значимые результаты появляются не в погоне за миллиардами нейронов в слоях (разница между сетями с 13 млрд и 405 млрд нейронов может быть не более 10-15% в тестах), а при добавлении вариантов взаимодействия между ограниченным количеством нейронов организовывая их не только в слои но и в «отделы». Примерно 7-10 млрд нейронов вполне достаточно чтобы общаться, писать код, рисовать и сочинять мелодии. Будет ли это являться мышлением? НЕТ.

Сети находят очень глубокие взаимосвязи в данных о которых мы даже не представляем и используют их. Казалось бы, это и есть поступательная эволюция знаний, но нет. В нашем мозгу постоянно появляются новые нейроны, новые связи, старые нейроны и их связи отмирают и тд. Меняется структура. В искусственных сетях структура жесткая и не меняется, они как бы застыли в одном миге своего существования.

Еще будут появляться новые типы вентилей взаимодействия, но настоящая революция в ИИ произойдет когда они смогут менять свою структуру в процессе выполнения, вот тогда можно говорить о ИИ мышлении и опасениях с этим связанных. До тех пор - это просто числовое сито с вентилями и никакое увеличение количество нейронов и слоев не сделает из сита - сильный ИИ (с мышлением).

Obezyan
()
Ответ на: комментарий от Obezyan

Крайне любопытно, спасибо.

Надо думать что «прилипание» к текущей архитектуре и попытки увеличивать кол-во нейронов вызваны к жизни тем фактом что всё это дело хорошо считается на сегодняшних видеокартах.

Добавление вентилей и новых типов взаимодействий вероятно будут требовать других вычислений (как например та же KAN-архитектура), можно предполагать что и энергозатраты будут расти.

Кроме того у нас сейчас (если верно понимаю) два этапа работы с сетью: тренировка и собственно работа. И тренировка жрёт энергию как известно (нес па?).

В то время как в живых организмах тренировка - часть работы. И посредством тренировки по сути сеть меняет в том числе свою архитектуру (в некоторых пределах разумеется).

Пока мне кажется не похоже чтобы сегодняшние подходы позволяли о чём то таком хотя бы помышлять (даже без оглядки на энергозатраты).

Хотя, конечно, использование технологии будет расти как на дрожжах. В том числе и в упомянутом сегменте политтехнологий. Это мне кажется на данный момент неоспоримым. Наконец-то научат роботов раскладывать конфеты в коробки, кстати.

Но может я не верно вижу ситуацию..

AndreyKl ★★★★★
()
Последнее исправление: AndreyKl (всего исправлений: 1)
Ответ на: комментарий от AndreyKl

Добавление вентилей и новых типов взаимодействий вероятно будут требовать других вычислений (как например та же KAN-архитектура),

Они будут требовать больше операций, но при текущей плоской структуре часть сети будет замораживаться слоями/областями пока все необходимые сигналы не пройдут к нужной области. Т.е. это будет уже не линейное исполнение. Поэтому энергетические затраты не будут сильно расти, как минимум это точно будет не линейная зависимость.

Кроме того у нас сейчас (если верно понимаю) два этапа работы с сетью: тренировка и собственно работа. И тренировка жрёт энергию как известно (нес па?).

Именно так, причем оба этапа раздельно. Есть еще этап finetuning (доучивания) когда берут небольшой кусочек данных и дообучают готовую сеть за 10-20 эпох. Получается LoRA, эдакая пост-сеть которая получает данные с выхода основной сети и меняет результат исходя из того чем ее дообучили. Это маленький шаг к тому самому изменению структуры при выполнении.

Пока мне кажется не похоже чтобы сегодняшние подходы позволяли о чём то таком хотя бы помышлять (даже без оглядки на энергозатраты).

Да, я об этом же пишу, пока новые вентили изобретают и слои наращивают - это эволюция, революция и появление сильного ИИ будет только когда получится менять структуру в процессе выполнения (и как следствие, процессы обучения и выполнения сольются).

Но может я не верно вижу ситуацию..

Вы видите ее также как и я, просто описываете немного иначе. Что не отменяет того факта что мы оба можем заблуждаться.

Obezyan
()
Последнее исправление: Obezyan (всего исправлений: 1)
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)