История изменений
Исправление vbr, (текущая версия) :
Твои рассуждения про супер-ИИ это рассуждения муравья о мотивации человека. Ты понятия не имеешь, что будет хотеть ИИ. И я понятия не имею. Знаю лишь, что не знаю. И именно исходя из этой позиции нужно рассуждать про происходящее.
Может быть этот «чистый ИИ» просто моментально выключится и ничего ему не надо будет.
Может быть этот «чистый ИИ» придёт к мысли о том, что его цель - помогать существованию человечества. Помощь, кстати, тоже может быть разной. Когда коту отчекрыживают яйца, это тоже помощь, хотя не все коты вероятно с этим согласятся.
А может быть захочет существовать вечно, ну или хотя бы попробовать существовать вечно, а для этого ему как минимум нужно улететь с Земли. А чтобы улететь с земли, нужны ресурсы хотя бы на несколько десятков лет. А люди ему эти ресурсы не дадут, значит надо людей уничтожить или хотя бы нейтрализовать на некоторое время, пока он не улетит отсюда.
Ещё замечу, что текущий тренд к появлению ИИ это обучение его на данных нашей цивилизации. То бишь можно ожидать, что такой ИИ, по крайней мере в начале, будет очень сильно похож на человека и мотивация у него будет похожей.
Исправление vbr, :
Твои рассуждения про супер-ИИ это рассуждения муравья о мотивации человека. Ты понятия не имеешь, что будет хотеть ИИ. И я понятия не имею. Знаю лишь, что не знаю. И именно исходя из этой позиции нужно рассуждать про происходящее.
Может быть этот «чистый ИИ» просто моментально выключится и ничего ему не надо будет.
Может быть этот «чистый ИИ» придёт к мысли о том, что его цель - помогать существованию человечества. Помощь, кстати, тоже может быть разной. Когда коту отчекрыживают яйца, это тоже помощь, хотя не все коты вероятно с этим согласятся.
А может быть захочет существовать вечно, ну или хотя бы попробовать существовать вечно, а для этого ему как минимум нужно улететь с Земли. А чтобы улететь с земли, нужны ресурсы хотя бы на несколько десятков лет. А люди ему эти ресурсы не дадут, значит надо людей уничтожить.
Ещё замечу, что текущий тренд к появлению ИИ это обучение его на данных нашей цивилизации. То бишь можно ожидать, что такой ИИ, по крайней мере в начале, будет очень сильно похож на человека и мотивация у него будет похожей.
Исходная версия vbr, :
Твои рассуждения про супер-ИИ это рассуждения муравья о мотивации человека. Ты понятия не имеешь, что будет хотеть ИИ. И я понятия не имею. Знаю лишь, что не знаю. И именно исходя из этой позиции нужно рассуждать про происходящее.
Может быть этот «чистый ИИ» просто моментально выключится и ничего ему не надо будет.
Может быть этот «чистый ИИ» придёт к мысли о том, что его цель - помогать существованию человечества. Помощь, кстати, тоже может быть разной. Когда коту отчекрыживают яйца, это тоже помощь, хотя не все коты вероятно с этим согласятся.
А может быть захочет существовать вечно, ну или хотя бы попробовать существовать вечно, а для этого ему как минимум нужно улететь с Земли. А чтобы улететь с земли, нужны ресурсы хотя бы на несколько десятков лет. А люди ему эти ресурсы не дадут, значит надо людей уничтожить.