социальные контракты с нежитью

В игнор.

ArsenShnurkov

Какова должна быть мотивация сильного искусственного интеллекта, чтобы он сочувствовал живым существам?

Он должен быть в состоянии «зажрался», чтобы отвлечься на такую фигню.

и правда добавил. чего это с ним? :)

Впечатлительный

бывает...

должен быть в состоянии «зажрался»

верно ли утверждение, что
«хамство это немотивированная жестокость по-христиански»?

Если зажрется - что мешает ему нахамить?

ArsenShnurkov

верно ли утверждение, что «хамство это немотивированная жестокость по-христиански»?

Нет. ИИ нельзя распять.

ArsenShnurkov

Если зажрется - что мешает ему нахамить?

Отсутсвие полового члена.

тут дело даже не в мотивации, а в философии и психологии. говорят, что любить людей может только очень мудрый человек. поэтому ИИ может полюбить людей, хоть и не сразу - пусть сначала мудрость в своей нейросети наведёт.

ход рассуждений не ясен

мудрость приходит с опытом при существовании в среде равных.
а тут сильное неравенство возможностей. возможна дедовщина со стороны ИИ

и вообще - агрессия обычно проявляется если ущемлять чьи-то интересы, только идиоты проявляют неоправданную агрессию (mclaudt, ты ещё здесь?). зачем ИИ убивать всех человеков, когда они только способствуют его развитию?

ИИ может полюбить людей

и занесет нас в красную книгу, как редкий, вымирающий вид

они только способствуют его развитию?

вроде того, как домашние питомцы способствуют развитию чувства ответственности у детей? Так ведь во многих семьях домашних питомцев не держат...

Если вероятность ненулевая и время неограничено, то событие наступит.

вероятность того, что выбрасывая кубики с буквами можно получить какой-нибудь рассказ ненулевая, однако отсюда не следует, что за бесконечное количество времени таким образом будут выброшены все возможные рассказы,- включая тот, в котором будет описан процесс выбрасывания кубиков. вечности для этого, вообще говоря, не хватит

только идиоты проявляют неоправданную агрессию

перед кем оправдываться ИИ?

в основе оправдания агрессии лежит какое-то социальное соглашение, которое чем-то подкреплено (конструкционными характеристиками - все люди примерно одинаковые и к тому же смертные).

бессмертное у нас пока только человечество в целом.

т.е. это сработает только если внести предположение, что будут открыты механизмы взаимодействия с внеземными цивилизациями.

Т.е. в принципе этот вопрос уже давно в фантастике проработан и мне не понятно, почему тогда вокруг этого столько шума.

/thread

Самопожертвование во имя искупления несуществующего понятия - бессмысленный шаг для ИИ. Не распят - не христианин. Хамить умеют и приматы, там лягушку на член натянуть, насрать другому в пищу, но для этого нужно больше отсутсвие интеллекта и биологические прибамбасы.

Если же сделаешь из ИИ симуляцию человека, получишь другого человека, а ИИ потеряешь. Нет ИИ, нет вопросов.

Нечитавший Азимова детектед.

http://ru.wikipedia.org/wiki/%D0%A2%D1%80%D0%B8_%D0%B7%D0%B0%D0%BA%D0%BE%D0%B...
фигня - никто никому ничего не должен
любой исходный код будет заменен/удален сильным ИИ, останется только то, что соответствует физической реальности. С реальностью повезло - есть другие звезды и планеты.

Скайнет и его война правдоподобнее позитроннолоханутых Азимова.

То есть гораздо более сложное «сочувствие» ты считаешь более рабочим?
Замену кода легко ограничить. Реализовать бред из топика — нереально.

Нечитавший материалы SIAI детектед.

Бегло пробежался по ним. Бред.
Я о том что никакой «мотивации» быть не может, да и не нужна она если можно тупо ограничивать.

>и правда добавил. чего это с ним?

видимо, его задолбала твоя псевдоинтеллектуальная бредятина

можно тупо ограничивать

невозможно. это не голова профессора доуля получится, эта штука умнее того человека, который будет ограничивать, она его обманет.

Бред.

это ты лентяй.
http://singinst.org/ourresearch/publications/guidelines.html

для Ъ:
как только будет создан True AI он создаст себе механические части и при помощи них модифицирует свои произвольные физические блоки

поэтому стоит вопрос - либо первый AI будет дружественным, либо он будет враждебным и убъет всех человеков.

псевдоинтеллектуальная бредятина

наезжай, пожалуйста, конкретнее

http://singinst.org/ourresearch/publications/what-is-friendly-ai.html

>как только будет создан True AI он создаст себе механические части и при помощи них модифицирует свои произвольные физические блоки
Именно это я и называю бредом.

>вечности для этого, вообще говоря, не хватит

для конечных рассказов вполне хватит.

Всё зависит от характера этого ИИ.
Любой интеллект проходит фазу обучения - будет сильно зависеть от этого.

В целом, на эту тему можно глянуть, например, BSG. Там прекрасно видно в том числе и эту проблему.

<fat>А вообще ИИ и, в частности, роботы - следующая ступень эволюции человека</fat>

ты вообще уверен, что программа может себя осознать? детерминированная, имхо, точно не сможет.

В целом, можно будет считать, что удалось создать действительно хороший ИИ, только когда этот ИИ сможет _полностью_ уничтожить всё человечество. Совсем не обязательно физически - достаточно превосходства в научно-техническом плане.

><fat>А вообще ИИ и, в частности, роботы - следующая ступень эволюции человека</fat>

жалко только что любому конкретному индивиду придётся всю жизнь жить в этом ограниченном туловище и медленном мозге и очень быстро умереть...

вот бы была возможность _перенести_ себя в виртуальность (копирование и уничтожение оригинала != перенос для сознаний)

Даже весьма тупой ИИ может уничтожить человечество физически.

эта штука умнее того человека, который будет ограничивать,

она его обманет - создаст себе механические части

и при помощи них модифицирует свои произвольные физические блоки

Именно это я и называю бредом.

Поясни, почему. В мысленном эксперименте компьютер wintermute вполне справился еще в 1984 году - http://ru.wikipedia.org/wiki/%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D0%BC%D0%B0%D0%BD...

Это не так просто, как может показаться. Даже ядерная зима, вероятнее всего, не уничтожит человечество полностью.

Детерменированная - точно нет.
ИМХО, ИИ это программно-аппаратный комплекс. Для его существования нужно что-то принципиально иное чем обычная компьютерная техника.

программа может

программа не сможет, Дональд Кнут ей запретил.
А вот программно-аппаратный комплекс - сможет, особенно если он для этого конструируется.

это я про разумность, а не про самоосознание

Это да. Опять таки, в этом ключе хороши НФ-сериалы. К конкретно этой идее - переносу сознания в виртуальности очень интересный подход в Каприке. Там, в общем-то, как раз про создании ИИ. Весьма необычно. ИМХО, стоит посмотреть, как на интересный вариант.

>> Именно это я и называю бредом.

Поясни, почему.

Потому что компьютеру можно запретить что угодно, в том числе и извне.

ИИ — это не нежить. Я не понимаю, почему ты его так назвал.
При оценке ИИ следует иметь ввиду что он может принципиально отличаться от человека и скорее всего будет — не стоит ему приписывать человеческие мотивы.

Мы говорим не о компьютере.
А о некоем «организме» обладающим интеллектом.
Если у «организма» есть своя воля - запретить что-либо «организму» невозможно.
Какой способ этот «организм» найдёт для того, чтобы добиться своего - другой вопрос. Но никакие ограничения не помогут, это точно.

А вот на счёт того на сколько он будет отличаться от человеческого - вопрос спорный. Он будет создан людьми. Процесс обучения его будет проходить так же при помощи людей. Соответственно и походить на людей он будет.
Есть ведь базовые принципы, которые выполнятся для любых «организмов». Типа выработки тех же рефлексов. Только «организм» обладающий интеллектом может к этому подойти с разумной точки зрения.

почему ты его так назвал.

погорячился.

не стоит ему приписывать человеческие мотивы.

стоит вписывать, чтобы стал дружественным

если уже есть культурное наследие, которое отражает представления о физическом мире его надо внутрь впихивать, чтобы не было экспериментов над людьми со стороны ИИ

>Какова должна быть мотивация сильного искусственного интеллекта

Какова должна быть мотивация сильного искусственного интеллекта, чтобы он вообще функционировал?

А зачем?
Нужны ли человеки, с их ограничениями и кучей недостатков на физиологическом уровне, если есть работающий, действующий ИИ?

Создав ИИ людям надо просто отправиться на свалку истории, как неандертальцам.

компьютеру можно запретить что угодно, в том числе и извне.

Перо (которым записываются мысли) сильней меча (которым проводятся физические сражения).

мыши не могут запретить кошке что угодно, в том числе и извне, даже несмотря на то, что их больше. кошка сильнее физически. А ИИ - интеллектуально.

>Создав ИИ людям надо просто отправиться на свалку истории, как неандертальцам.

CyberTribe

То есть тебя заслали сюда саймеки, да?


(да и потом, Бутлерианский джихад — тоже выход)

>о некоем «организме» обладающим интеллектом.
С чего бы это? У организмов есть особые преимущества?

>мыши не могут запретить кошке что угодно, в том числе и извне, даже несмотря на то, что их больше. кошка сильнее физически. А ИИ - интеллектуально.
Доступом моего компьютера в интернет управляет раутер. Мощности различаются на порядки, сложность ПО тоже. Но эта мощность не поможет обойти ограничения, выставленные на раутере.

Какова должна быть мотивация сильного искусственного интеллекта, чтобы он сочувствовал живым существам?

у ИИ нет такого функционала

сли контракта не будет существовать, то есть ненулевая вероятность, что роботы убъют всех человеков, даже если это совсем не цель. Если вероятность ненулевая и время неограничено, то событие наступит.

3 закона робототехники

Во многих семьях домашних питомцев не держат. Держат только в тех, где считают, что это полезно/приятно.

Чаще если нет аллергии ни у кого и квартира/дом позволяет

Собственно, как должен работать этот социальный контракт?

никак, программное ограничение во все поля