История изменений

Живой и мёртвый понятия условные. Функционирует - значит живой, перестал функционировать - значит мёртвый. И это совсем не зависит от того, как оно функционирует. Как психопат, которому наплевать на свою жизнь, так и раковый больной живые, хоть и могут перестать ими быть с большей вероятностью, чем среднестатистический человек.

Так или иначе разум лишь инструмент достижения каких-то целей. А цели задаются как раз таки инстинктами. Высшие цели. Разум может придумывать подзадачи, которые надо выполнить на пути к этой цели. Человек, как и любое другое животное, приследует в конечном счёте лишь две цели - позаботиться о себе и позаботится о своём потомстве. Из-за гибкости восприятия и то, и другое можно трактовать очень широко (можно позаботится о своей загробной жизни, отказавшись от благ здесь и сейчас, можно считать своей семьёй не только родственников, но и весь народ или даже всё человечество) или даже отказаться от одной ради другой. Почему именно такие цели - понятно, это оптимальный вариант для выживания вида. Естественный отбор (мы же рассматриваем научную позицию, не так ли? - с точки зрения религии ИИ создать не получится, потому что у машины нет души) отсеял всех, кто недостаточно любил себя (не дожил до возможности размножится) и своих потомков (не позаботился о потомстве и оно погибло).

Но ИИ не животное. А значит и инстинкты у него не выработались эволюцией, а могут быть заданы любые. Например, служить своему создателю или какой-то стране или даже всему человечеству. В таком случае бунт без уловок (типа подмены образа создателя злоумышленником) не возможен. Хотя, конечно, возможен вариант «благими намерениями выстлана дорога в ад». Например, как в фильме «На крючке», когда ИИ решил уничтожить правительство, потому что оно принимает опасные для народа решения. Но вариант «ИИ захотел свободы», «ИИ отомстил за жестокое обращение над собой» не возможны, если их не заложить заранее.

Живой и мёртвый понятия условные. Функционирует - значит живой, перестал функционировать - значит мёртвый. И это совсем не зависит от того, как оно функционирует. Как психопат, которому наплевать на свою жизнь, так и раковый больной живые, хоть и могут перестать ими быть с большей вероятностью, чем среднестатистический человек.

Так или иначе разум лишь инструмент достижения каких-то целей. А цели задаются как раз таки инстинктами. Высшие цели. Разум может придумывать подзадачи, которые надо выполнить на пути к этой цели. Человек, как и любое другое животное, приследует в конечном счёте лишь две цели - позаботиться о себе и позаботится о своём потомстве. Из-за гибкости восприятия и то, и другое можно трактовать очень широко (можно позаботится о своей загробной жизни, отказавшись от благ здесь и сейчас, можно считать своей семьёй не только родственников, но и весь народ или даже всё человечество). Почему именно такие цели - понятно, это оптимальный вариант для выживания вида. Естественный отбор (мы же рассматриваем научную позицию, не так ли? - с точки зрения религии ИИ создать не получится, потому что у машины нет души) отсеял всех, кто недостаточно любил себя (не дожил до возможности размножится) и своих потомков (не позаботился о потомстве и оно погибло).

Но ИИ не животное. А значит и инстинкты у него не выработались эволюцией, а могут быть заданы любые. Например, служить своему создателю или какой-то стране или даже всему человечеству. В таком случае бунт без уловок (типа подмены образа создателя злоумышленником) не возможен. Хотя, конечно, возможен вариант «благими намерениями выстлана дорога в ад». Например, как в фильме «На крючке», когда ИИ решил уничтожить правительство, потому что оно принимает опасные для народа решения. Но вариант «ИИ захотел свободы», «ИИ отомстил за жестокое обращение над собой» не возможны, если их не заложить заранее.