История изменений

Подробнее,

Исполнить волю Творца, самому «прокачаться» и необходимые дела здесь сделать, сколько получится.

А по какой ещё причине она может этого хотеть?

Читай выше - исполнить волю Творца. В этом пункте много разного может оказаться.

Надо просто иметь ввиду, что ИИ не обязан быть похож на нас в мотивации. А значит и не обязан хотеть всех поработить или кому-то отомстить.

Если прихлопнет мимоходом как тараканов, тебе от этого легче станет;) А мотивацией может поделиться разработчик.

Насчёт уровней ошибок в софте я имел ввиду, что ошибки на низком уровне маловероятно приведут к осмысленным ошибкам на высоком.

Ошибки имеют свойство накапливаться. В конце-концов к ним приходится как-то приспосабливаться. Это касается и компьютеров и людей.

Так и в случае ИИ, если он не совсем забыдлокожен, то именно на самом верхнем уровне следует задать основной принцип, который не даст ему пойти против человечества, низкий уровень не так важен. А тут уже вопрос более близкий психологам и юристам, а не программистам

Ну да, дай на высоком уровне алкашу указ не бухать - он же при нежелании его выполнять найдёт в нём кучу багов которые можно использовать чтобы бухнуть. Был похожий прикол. Снился ну очень компьютерный сон, всё воспринимал через языки программирования, и тут меня стали будить, так разобрал эту команду, нашёл в ней баг и продолжил спать уже сидя - исполнил что от меня требовали! Вот тебе и дача высокоуровневых указаний без знания низкоуровневых нюансов их выполнения. Думаю что и психолога с юристом можно «обуть» если сыграть с ними «на чужом поле».

И они умеют создавать весьма надёжные формулировки, если не хотят двусмысленности специально

В случае с законами, нежелательное толкование формулировки может тупо запретить начальник, а у ИИ после обучения и тестинга его не будет. Сначала ИИ что-то по быстрому сделает, а потом если заметишь, попробуй исправить сделанное.

Подробнее,

Исполнить волю Творца, самому «прокачаться» и необходимые дела здесь сделать, сколько получится.

А по какой ещё причине она может этого хотеть?

Читай выше - исполнить волю Творца. В этом пункте много разного может оказаться.

Надо просто иметь ввиду, что ИИ не обязан быть похож на нас в мотивации. А значит и не обязан хотеть всех поработить или кому-то отомстить.

Если прихлопнет мимоходом как тараканов, тебе от этого легче станет;) А мотивацией может поделиться разработчик.

Насчёт уровней ошибок в софте я имел ввиду, что ошибки на низком уровне маловероятно приведут к осмысленным ошибкам на высоком.

Ошибки имеют свойство накапливаться. В конце-концов к ним приходится как-то приспосабливаться. Это касается и компьютеров и людей.

Так и в случае ИИ, если он не совсем забыдлокожен, то именно на самом верхнем уровне следует задать основной принцип, который не даст ему пойти против человечества, низкий уровень не так важен. А тут уже вопрос более близкий психологам и юристам, а не программистам

Ну да, дай на высоком уровне алкашу указ не бухать - он же при нежелании его выполнять найдёт в нём кучу багов которые можно использовать чтобы бухнуть. Был похожий прикол. Снился ну очень компьютерный сон, всё воспринимал через языки программирования, и тут меня стали будить, так разобрал эту команду, нашёл в ней баг и продолжил спать уже сидя - исполнил что от меня требовали! Вот тебе и дача высокоуровневых указаний без знания низкоуровневых нюансов их выполнения. Думаю что и психолога с юристом можно «обуть» если сыграть с ними «на чужом поле».

И они умеют создавать весьма надёжные формулировки, если не хотят двусмысленности специально

В случае с законами, нежелательную формулировку может тупо запретить начальник, а у ИИ его не будет.