История изменений

Подробнее, пожалуйста. Я, конечно, атеист, но не буду дискриминировать тебя сейчас по религиозному принципу, а лишь хочу показать, что твои стремления вполне подходят под описанную мною концепцию (либо ты меня опровергнешь, представив такую концепцию, которая не будет следовать никаким инстинктам).

А по какой ещё причине она может этого хотеть? Кстати, я ничего плохого под этим не подразумеваю. Гормоны и инстинкты это часть нашего разума, без которой у него не будет смысла существования, как у программы без входных данных. Вполне нормально жить с осознанием этого. Надо просто иметь ввиду, что ИИ не обязан быть похож на нас в мотивации. А значит и не обязан хотеть всех поработить или кому-то отомстить. Это свойство людей.

Насчёт уровней ошибок в софте я имел ввиду, что ошибки на низком уровне маловероятно приведут к осмысленным ошибкам на высоком. В смысле, что от бага в текстовом процессоре в тексте не появятся орфографические ошибки, как и не изменится его смысл - он просто может стать нечитаемым. Так и в случае ИИ, если он не совсем забыдлокожен, то именно на самом верхнем уровне следует задать основной принцип, который не даст ему пойти против человечества, низкий уровень не так важен. А тут уже вопрос более близкий психологам и юристам, а не программистам (как сформулировать принцип так, чтобы ИИ не навредил людям). И они умеют создавать весьма надёжные формулировки, если не хотят двусмысленности специально (большинство кривых законов написаны из-за банального незнания и лени, либо из-за желания специально использовать ошибки в корыстных целях).

Подробнее, пожалуйста. Я, конечно, атеист, но не буду дискриминировать тебя сейчас по религиозному принципу, а лишь хочу показать, что твои стремления вполне подходят под описанную мною концепцию (либо ты меня опровергнешь, представив такую концепцию, которая не будет следовать никаким инстинктам).

А по какой ещё причине она может этого хотеть? Кстати, я ничего плохого под этим не подразумеваю. Гормоны и инстинкты это часть нашего разума, без которой у него не будет смысла существования, как у программы без входных данных. Вполне нормально жить с осознанием этого. Надо просто иметь ввиду, что ИИ не обязан быть похож на нас в мотивации. А значит и не обязан хотеть всех поработить или кому-то отомстить. Это свойство людей.

Насчёт уровней ошибок в софте я имел ввиду, что ошибки на низком уровне маловероятно приведут к осмысленным ошибкам на высоком. В смысле, что от бага в текстовом процессоре в тексте не появятся орфографические ошибки, как и не изменится его смысл - он просто может стать нечитаемым. Так и в случае ИИ, если он не совсем забыдлокожен, то именно на самом верхнем уровне следует задать основной принцип, который не даст ему пойти против человечества, низкий уровень не так важен. А тут уже вопрос более призкий психологам и юристам, а не программистам (как сформулировать принцип так, чтобы ИИ не навредил людям). И они умеют создавать весьма надёжные формулировки, если не хотят двусмысленности специально (большинство кривых законов написаны из-за банального незнания и лени, либо из-за желания специально использовать ошибки в корыстных целях).

Подробнее, пожалуйста. Я, конечно, атеист, но не буду дискриминировать тебя сейчас по религиозному принципу, а лишь хочу показать, что твои стремления вполне подходят под описанную мною концепцию (либо ты меня опровергнешь, представив такую концепцию, которая не будет следовать никаким инстинктам).

А по какой ещё причине она может этого хотеть? Кстати, я ничего плохого под этим не подразумеваю. Гормоны и инстинкты это часть нашего разума, без которой у него не будет смысла существования. Вполне нормально жить с осознанием этого. Надо просто иметь ввиду, что ИИ не обязан быть похож на нас в мотивации. А значит и не обязан хотеть всех поработить или кому-то отомстить. Это свойство людей.

Насчёт уровней ошибок в софте я имел ввиду, что ошибки на низком уровне маловероятно приведут к осмысленным ошибкам на высоком. В смысле, что от бага в текстовом процессоре в тексте не появятся орфографические ошибки, как и не изменится его смысл - он просто может стать нечитаемым. Так и в случае ИИ, если он не совсем забыдлокожен, то именно на самом верхнем уровне следует задать основной принцип, который не даст ему пойти против человечества, низкий уровень не так важен. А тут уже вопрос более призкий психологам и юристам, а не программистам (как сформулировать принцип так, чтобы ИИ не навредил людям). И они умеют создавать весьма надёжные формулировки, если не хотят двусмысленности специально (большинство кривых законов написаны из-за банального незнания и лени, либо из-за желания специально использовать ошибки в корыстных целях).

Подробнее, пожалуйста. Я, конечно, атеист, но не буду дискриминировать тебя сейчас по религиозному принципу, а лишь хочу показать, что твои стремления вполне подходят под описанную мною концепцию (либо ты меня опровергнешь, представив такую концепцию, которая не будет следовать никаким инстинктам).

А по какой ещё причине она может этого хотеть?

Насчёт уровней ошибок в софте я имел ввиду, что ошибки на низком уровне маловероятно приведут к осмысленным ошибкам на высоком. В смысле, что от бага в текстовом процессоре в тексте не появятся орфографические ошибки, как и не изменится его смысл - он просто может стать нечитаемым. Так и в случае ИИ, если он не совсем забыдлокожен, то именно на самом верхнем уровне следует задать основной принцип, который не даст ему пойти против человечества, низкий уровень не так важен. А тут уже вопрос более призкий психологам и юристам, а не программистам (как сформулировать принцип так, чтобы ИИ не навредил людям). И они умеют создавать весьма надёжные формулировки, если не хотят двусмысленности специально (большинство кривых законов написаны из-за банального незнания и лени, либо из-за желания специально использовать ошибки в корыстных целях).

Подробнее, пожалуйста. Я, конечно, атеист, но не буду дискриминировать тебя сейчас по религиозному принципу, а лишь хочу показать, что твои стремления вполне подходят под описанную мною концепцию (либо ты меня опровергнешь, представив такую концепцию, которая не будет следовать никаким инстинктам).

Насчёт уровней ошибок в софте я имел ввиду, что ошибки на низком уровне маловероятно приведут к осмысленным ошибкам на высоком. В смысле, что от бага в текстовом процессоре в тексте не появятся орфографические ошибки, как и не изменится его смысл - он просто может стать нечитаемым. Так и в случае ИИ, если он не совсем забыдлокожен, то именно на самом верхнем уровне следует задать основной принцип, который не даст ему пойти против человечества, низкий уровень не так важен. А тут уже вопрос более призкий психологам и юристам, а не программистам (как сформулировать принцип так, чтобы ИИ не навредил людям). И они умеют создавать весьма надёжные формулировки, если не хотят двусмысленности специально (большинство кривых законов написаны из-за банального незнания и лени, либо из-за желания специально использовать ошибки в корыстных целях).

Подробнее, пожалуйста. Я, конечно, атеист, но не буду дискриминировать тебя сейчас по религиозному принципу, а лишь хочу показать, что твои стремления вполне подходят под описанную мною концепцию.

Насчёт уровней ошибок в софте я имел ввиду, что ошибки на низком уровне маловероятно приведут к осмысленным ошибкам на высоком. В смысле, что от бага в текстовом процессоре в тексте не появятся орфографические ошибки, как и не изменится его смысл - он просто может стать нечитаемым. Так и в случае ИИ, если он не совсем забыдлокожен, то именно на самом верхнем уровне следует задать основной принцип, который не даст ему пойти против человечества, низкий уровень не так важен. А тут уже вопрос более призкий психологам и юристам, а не программистам (как сформулировать принцип так, чтобы ИИ не навредил людям). И они умеют создавать весьма надёжные формулировки, если не хотят двусмысленности специально (большинство кривых законов написаны из-за банального незнания и лени, либо из-за желания специально использовать ошибки в корыстных целях).