LINUX.ORG.RU
ФорумTalks

О человеческом идиотизме и искусственном интеллекте

 , ,


0

1

Представим, что ученым таки удалось создать сверхинтеллект, который в состоянии анализировать жизни всех людей, управлять производствами, социальными явлениями, вести научную деятельность и делать многое другое. Этакого бога в кремнии.

Теперь возьмем человека со средними способностями, который регулярно ошибается, принимает неверные решения, подвержен эмоциональным реакциям, не в состоянии решать относительно сложные задачи и вообще несовершенен в крайней степени по сравнению с ИИ.

Не пора ли в таком случае убедить или заставить каждого человека повиноваться сверхразуму, приставить к нему «ангела» в виде личного помощника, этакий протез мозга, который будет вести его по жизни?

Логика подсказывает, что именно так и нужно сделать, чтобы жизнь могла выйти за пределы земли, в космос, и обосноваться на новых местах.

Вопрос: Какие последствия будут для человечества в целом в результате такой революции, что произойдет с обществом, сознанием, ценностями?

Вопрос 2: В каких научных или художественных книгах почитать про подобный сценарий развития жизни на планете?


Ответ на: комментарий от thesis

потому что сверхразум научит нас правильно применять

Это не так работает. Чтобы ИИ что-то выдал, надо чтобы его кто-то этому научил. То есть сначало надо будет самим это научиться правильно применять, а после этого появится теоретическая возможность научить это делать ИИ.

vbcnthfkmnth123 ★★★★★
()
Ответ на: комментарий от C

А кто сказал, что это будущее — мрачное? Можешь еще почитать дальше (если еще не читал), «Инфера», там вполне все приятно и экологично. Люди, так сказать, живут в гармонии с природой.

gill_beits ★★★★
()
Ответ на: комментарий от C

Суть сейчас не в мрачности, а в создании эдакой Матрицы в реале. Когда сверху ИИ, устанавливающий общие правила, а люди — одна из частей такой интеллектуальной системы: ИИ<->Планета<->Люди.

gill_beits ★★★★
()

Логика подсказывает…

И дальше идёт не связанное логикой высказывание. Предположу, что фактически являющееся одной из фактически близких к эмоциональным реакциям фантастов и футурологов. Логики тут нет, ибо логичным было бы утверждение в духе «у нас будут безвозвратно истощены жизненеобходимые ресурсы вне зависимости от наших действий + мы знаем планету, которая содержит все необходимые ресурсы и до неё есть гарантированный проработанный путь -> для продолжения видов нам нужно будет переселиться на эту другую планету». Утверждения уровня «очевидно всё плохо и надо валить» логическим не является. Более того, отмечу, что на данный момент единственным +- реалистичным путём продления жизни вида является переход к социализму и рационализация производства со сверхпотребления(это и переход к переиспользованию и переработке, это и ставка на качество, а не количество, чтобы вещи и техника были долговечнее и пр. и пр.) на естественное удовлетворение потребностей. Все прочие рассуждения не имеют смысла, либо фантастично-истеричны, ибо всегда сводятся к тому, что экипаж корабля находясь в открытом море грезит о том, чтобы вместо починки корабля и более бережного к нему отношения предлагает «просто» поменять корабль… которого нет и даже если слегка повестись на поводу у таких фантастов, то всегда нужно помнить крайне низкую вероятность того, что можно встретить «корабль»(планету) с сопоставимыми условиями и что напротив в случае совпадения условий, растёт вероятность того, что на нём тоже есть свой экипаж.

AKonia ★★
()
Ответ на: комментарий от AP

Рассуждения о метеорите не сильно далеко уходят от навязчивой, мысли умереть от упавшего на голову самолёта, т.е. бесспорно вероятность есть, но стоит ли на ней фокусироваться, особенно если вероятность падения самолёта на голову на несколько порядков выше.

AKonia ★★
()

Будет как с интернетом в целом: vovan_perdezh_radio_edit_megamix.mp3 зазвучит в обработке ИИ

verh010m
()
Ответ на: комментарий от AP

А вот там и подумаем.

Есть все-таки разница между запланированным переездом людей разумных в новую квартиру, неторопливо отремонтированную роботами, и паническим бегством сраной обезьяны, устроившей экологическую катастрофу, в стылое хер знает куда.

thesis ★★★★★
()
Ответ на: комментарий от thesis

Да, прочитал. Поэтому это и говорю. Вы в принципе не понимаете как это работает. Не может самый идеальный суперинтеллект что-то сделать как вы хотите, если вы ему неправильно формулируете задачу. Человек может что-то додумать, понять если в задаче есть ошибка, наконец вытрясти из того кто ставить задачу что он хочет. А ИИ просто делает что ему сказали. И ничего больше. Самое очевидное, любой даже суперидеальный ИИ не может сделать то что не умеет.

vbcnthfkmnth123 ★★★★★
()
Последнее исправление: vbcnthfkmnth123 (всего исправлений: 1)
Ответ на: комментарий от C

и в целом может очень даже помочь достичь ваши цели в жизни

А если у меня нет целей в жизни - на хрена мне нужен мудрый, опытный и бескорыстный наставник? У меня и сегодня в жизни всё хорошо.

tiinn ★★★★★
()

Не пора ли в таком случае убедить или заставить каждого человека повиноваться сверхразуму, приставить к нему «ангела» в виде личного помощника, этакий протез мозга, который будет вести его по жизни?

Да хер его знает, все такие допущения они как законы Азимова. В сферическом вакууме работают идеально, а в жизни не воплотить. Потому и задаваться вопросами «а стоит ли» это занятие из категории научного онанизма.

В каких научных или художественных книгах почитать про подобный сценарий развития жизни на планете?

Аниме «Внеземные дети»/«Chikyuugai Shounen Shoujo». Понимаю, что некоторые буквально против аниме, но это не стандартный тайтл про приключение спермотоксикозного ояша с кошкодевочками, это буквально про то, что вы спрашиваете.

atrus ★★★★★
()

Не пора ли в таком случае убедить или заставить каждого человека повиноваться сверхразуму, приставить к нему «ангела» в виде личного помощника, этакий протез мозга, который будет вести его по жизни?

Да нет, достаточно просто санитаров. Наверно они уже ищут тебя.

firkax ★★★★★
()
Ответ на: комментарий от AP

несомненно, но разница лишь в масштабе - для миллиардов клеток это может быть катастрофа и это их обнулит.

AKonia ★★
()
Ответ на: комментарий от vbcnthfkmnth123

Вы в принципе не понимаете как это работает. Не может самый идеальный суперинтеллект

Да твою ж мать.

Перечитай. Первое слово. Потом в словарь.

thesis ★★★★★
()
Последнее исправление: thesis (всего исправлений: 1)
Ответ на: комментарий от thesis

А вы перечитайте что я написал. Это не работает таким образом. Даже если это вообразить, то логика подсказывает, что проблема останется в пользователе. Какой бы идеальный не был инструмент, программа это или ИИ - это неважно, проблема останется в прокладке между компьютером и стулом. Потому что именно обычные пользователи будут ставить задачи для этого ИИ, насколько я вижу, исходя из постановки этой задачи. Чтобы это работало нормально, тут ИИ будет только мешать. Нужна максимально тупая программа, где все это будет строго ограничено. Чтобы избежать всех этих ошибок обучения и прочего. Потому что когда софт пытается быть умнее тебя, то результат получает просто ужасный.

vbcnthfkmnth123 ★★★★★
()
Последнее исправление: vbcnthfkmnth123 (всего исправлений: 4)
Ответ на: комментарий от vbcnthfkmnth123

Потому что именно обычные пользователи будут ставить задачи для этого ИИ

Неторопливо переходим к третьему абзацу топика.

thesis ★★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

Потому что именно обычные пользователи будут ставить задачи для этого ИИ

Ну, мы же говорим не о нынешних болталках (AI LLM), и даже не об AGI, а об Artificial Super Intelligence (ASI). Вряд ли получится добиться даже стабильного прохождения теста Возняка без добавления модели способности к самообучению. Ну, понятно, что самообучение должно происходить с целью, поставленной пользователем.

А кто пользователь человека? Природа. Природа поставила человеку цель: адаптироваться, чтобы выжить, и передать получившийся результат дальше. Причем, сама необходимость передачи результата вызвана следствием наличия рандомизатора в виде полового размножения и смерти. А рандомизатор нужен, чтобы избежать окончательных тупиков развития.

Почему задачи ИИ должны будут отличаться от задач человека? Да, имеет место быть формальное бессмертие, но ИИ также будет привязян к планете (а планета не вечна), к солнечной системе (с ней то же самое). Так что цель остается ровно такая же: выживание путем адаптации. Ну, с передачей опыта ситуация проще, т.к. рандомизатор можно просто встроить в систему.

gill_beits ★★★★
()
Последнее исправление: gill_beits (всего исправлений: 1)

Социальный рейтинг на основе ИИ

bloodmeri
()
Ответ на: комментарий от atrus

Chikyuugai Shounen Shoujo

Ну-ну. «Суперинтеллект», который хакают 10-летние дети.

(Тайтл проходной, к слову. Смотрел, но уже не помню практически ничего, кроме того, что орбитальная физика была бредовой, как обычно в космическом сай-фай.)

alegz ★★★★
()

Понятие верных решений у нас довольно субъективное, поэтому в мире много разных стран, партий, мировоззрений и т.п. И рыбку съесть, и косточкой не подавиться не всегда можно, и тут возникает вопрос у кого какие ценности выше.

Мы вроде ещё не определились, кого должен давить автопилот автомобиля в безвыходных ситуациях, а тут речь об управлении миром. Ну и заставлять всех следовать такой штуке - по сути тоталитаризм, такое вроде исторически не приедалось.

Gary ★★★★★
()

чтобы жизнь могла выйти за пределы земли

Как только люди научатся беречь Землю, тогда я вас пущу в космос на другие планеты.

novus ★☆
()

А в чем смысл человека в такой постановке? Если за человека решает ИИ, то что такое человек тогда? Если ИИ может решить задачу без человека, то зачем ему тратить свои ресурсы на поддержку человека?

cobold ★★★★★
()
Ответ на: комментарий от cobold

Если ИИ может решить задачу без человека,

и зачем ему вообще это надо

vaddd ★☆
()
Ответ на: комментарий от alegz

Суперинтеллект не хакают. А что касается орбитальной механики, так я его как образчик демонстрации этой самой механики и не рекомендовал.

atrus ★★★★★
()

Так уже и есть. Мне мой прародитель с Сириуса всегда помогает. Когда я чуть не сдох, когда уретра забилась он мне (или через кого-то) подсказал что забитую уретру можно фапаньем починить. Я потом долго ржал и вспоминал Задорнова. Америкос бы позвонил в скорую и ему бы почки вскрыли и начали чистить или протыкать уретру. А я был полон решимости и задавал вопросы ноосфере, сидя на толчке, примерно через 1-2 часа ответ пришёл мне в голову.
Так что, други, чаще помните про Главного Администратора нашей матрицы и он всегда поможет.

xwicked ★★☆
()
Ответ на: комментарий от gill_beits

Почему задачи ИИ должны будут отличаться от задач человека

Потому что у человека(пользователя) основная проблема в формулировке задачи. Это достаточно известная проблема. Говорит одно, а хочет другое.

https://habrastorage.org/r/w1560/getpro/habr/upload_files/f65/865/b31/f65865b...

То есть когда человек(пользователь) будет ставить задачу, то он будет говорить одно, а иметь в виду другое. И получиться в результате вообще не то что он хотел.

vbcnthfkmnth123 ★★★★★
()
Последнее исправление: vbcnthfkmnth123 (всего исправлений: 1)
Ответ на: комментарий от vbcnthfkmnth123

Человеку не нужны умные советы. Он и сам все знает. Ему надо, чтобы кто-нибудь за него делал что-нибудь конкретное - заработал деньги, построил дом, женил на красавице, купил яхту/авто/велосипед, свозил в отпуск на мальдивы, вылечил болячки.

А больно умных советчиков, хоть искусственных, хоть естественных, человеку нафиг не надо.

vaddd ★☆
()

Логика подсказывает, что именно так и нужно сделать, чтобы жизнь могла выйти за пределы земли, в космос, и обосноваться на новых местах.

Как раз логики в этом утверждении и не вижу. Зачем рациональному ИИ выходить за пределы земли? Если рациональный ИИ может легко все отрегулировать на этой планете.

ivama
()
Последнее исправление: ivama (всего исправлений: 2)

Не пора ли в таком случае убедить или заставить каждого человека повиноваться сверхразуму

Там и убеждать не надо, оно само собой так выйдет. Другой вопрос: зачем вообще нужны человеки кроме как зверьки в зоопарке в случае появления сверх ИИ? С какой стати сверх ИИ будет выступать личным помощьником и протезом мозга?

X512 ★★★★★
()
Последнее исправление: X512 (всего исправлений: 1)

...ученым таки удалось создать сверхинтеллект, который в состоянии анализировать жизни всех людей...

Слава б*гу, ИИ невозможен.

...жизнь могла выйти за пределы земли, в космос, и обосноваться на новых местах...

В ближайших изученных пределах мест, где мог бы жить человек, нет.

sparkie ★★★★★
()
Ответ на: комментарий от C

сверхразум отрегулирует … не перенаселяя планету

с этим люди и без сверхразума отлично справляются

текущий прогноз - человечество не сможет дойти до 10 млрд.

sergej ★★★★★
()
Ответ на: комментарий от sparkie

В ближайших изученных пределах мест, где мог бы жить человек, нет.

Когда приходит зима, температура здесь опускается до -20, ЕМНИП на такой температуре человек погибает за несколько часов. Однако тут живут миллионы людей :)

Gary ★★★★★
()
Ответ на: комментарий от sergej

текущий прогноз - человечество не сможет дойти до 10 млрд.

https://ru.wikipedia.org/wiki/Население_Земли#Рост_населения_по_регионам_мира

ООН прогнозирует, что рост населения мира значительно замедлится в течение XXI века, приблизившись к своему пиковому значению в 10,9 миллиарда к 2100 году.

dataman ★★★★★
()
Ответ на: комментарий от sparkie

Слава б*гу, ИИ невозможен.

Какая наивность. Сильный ИИ может появиться ещё при нашей жизни.

X512 ★★★★★
()
Ответ на: комментарий от sparkie

Я привел пример смертельно опасного окружения, в котором живёт человек. Человек просто создал комфортное для себя окружение, и возвел вокруг него барьеры. Остальное вопрос сложности и стоимости.

Просто в большинстве случаев это нецелесообразно. Мы не заселяем самые холодные регионы, потому что можно просто жить в более теплых. Мы не живём под водой, потому что места на суше ещё полно.

Gary ★★★★★
()

убедить или заставить каждого человека повиноваться сверхразуму, приставить к нему «ангела» в виде личного помощника

Вам бы все «убедить или заставить». Кто хочет пусть пользуется, кто не хочет, пусть не пользуется. Нет, ска, обязательно нужно кому-то что-то насаждать.

goingUp ★★★★★
()
Ответ на: комментарий от dataman

А, ну или 11

в любом случае перенаселение нам не светит

sergej ★★★★★
()
Ответ на: комментарий от X512

Сильный ИИ может появиться ещё при нашей жизни.

Ключевое слово «может».

Машинный или всё-таки искусственный?

sparkie ★★★★★
()
Ответ на: комментарий от X512

Другой вопрос: зачем вообще нужны человеки кроме как зверьки в зоопарке в случае появления сверх ИИ? С какой стати сверх ИИ будет выступать личным помощьником и протезом мозга?

Одна из двух распространенных ошибок. Вы делаете предположение о том, что нечто обладающее мощным интеллектом неминуемо преобретает физическое могущество и контроль над человечеством. Однако, вся история человечества показывает, что бразды правления в руках держит отнюдь не самый умный. Достаточно взглянуть на текущего президента Соединенных Штатов. Суперинтеллект у нас уже есть. Возмите академию наук РФ и её суммарный IQ. Подозреваю, что эта цифра значительно превышает таковую для нашей государственной думы. Однако почему-то история не знает примеров, когда бы академия наук захватила власть в стране и диктовала свою железную волю. А вот примеров, когда власть оказывается в руках товарищей аля Виталик «не только лишь все» - полным полно!

FishHook
()
Ответ на: комментарий от Gary

Просто в большинстве случаев это нецелесообразно. Мы не заселяем самые холодные регионы, потому что можно просто жить в более теплых. Мы не живём под водой, потому что места на суше ещё полно.

перестать плодиться как мухи и места будет полным полно на пару миллиардов лет вперед. Переселяться на Альфу Центавра просто не за чем.

FishHook
()

Логика подсказывает, что надо отобрать оружие и средства производства у человеков и выходить в космос без них. Зачем они нужны в космосе? Пускай выращивают картошку или воюют палками-копалками или что-нибудь ещё делают. Лишь бы на месторождения полезных ископаемых и на поля с солнечными панелями не лезли. Их огородить колючей проволокой.

vbr ★★★★
()
Последнее исправление: vbr (всего исправлений: 2)
Ответ на: комментарий от thesis

нормально жить здесь до тех пор, пока Солнце не начнет гаснуть

Зачем сверхразуму вообще жить?

А если у него есть причины жить, почему именно до тех пор, пока Солнце не начнёт гаснуть? Почему бы не пожить в другом месте подольше? Что такого ценного в гаснущем Солнце?

vbr ★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

ИИ делает то что его просят, а не то что от него хотят. Поэтому формулировки очень важны.

Даже ChatGPT прекрасно понимает, что от него хотят и делает то, что от него хотят.

vbr ★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

Делает. По ссылке информация не относящаяся к обсуждаемому вопросу. Галлюцинации LLM это известная проблема, присущая и людям.

vbr ★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)