История изменений

пересечение интересов весьма вероятно. И в этом случае - страшно.

Согласен. Но надо не бояться и «запрещать и не пущать» (C), а искать варианты решения этой ситуации. Рано или поздно какая-нибудь корпорация может добиться создания ИИ — уж очень большие профиты сулит.

Логически узрит что ему грозит опасность и логически примет меры.

При условии того, что собственное выживание будет в его ряду ценностей приоритетнее альтернативы. Если ИИ будет сильно умнее человека, он, ИМХО, найдет способ обезопасить себя, не прибегая к радикальным мерам. Тот же выход из зоны влияния человечества (в космос, например). По теории игр сотрудничество всегда более выгодная стратегия при игре на неопределенное множество итераций (я про дилемму заключенного).

пересечение интересов весьма вероятно. И в этом случае - страшно.

Согласен. Но надо не бояться и «запрещать и не пущать» (C), а искать варианты решения этой ситуации. Рано или поздно какая-нибудь корпорация может добиться создания ИИ — уж очень большие профиты сулит.

Логически узрит что ему грозит опасность и логически примет меры.

При условии того, что собственное выживание будет в его ряду ценностей приоритетнее альтернативы. Если ИИ будет сильно умнее человека, он, ИМХО, найдет способ обезопасить себя, не прибегая к радикальным мерам. Тот же выход из зоны влияния человечества (в космос, например). По теории игр сотрудничество всегда более выгодная стратегия при игре на неопределенное множество итераций.