История изменений

Вы демонизируете ИИ.

Вовсе нет.

Мы не знаем и даже не можем предполагать его критериев «хорошо» и «плохо».

Разумеется.

К тому же бюрократический аппарат неодушевленной машиной не является. Бюрократический аппарат - это совокупность людей, объединенными общим интересом к выживанию и общими рычагами для реализации этого интереса.

Ну а ИИ - это совокупность кода объединённого общим интересом к выживанию и с достаточными рычагами для реализации этого усилия.

Разницы почти никакой.

По идее, у него не должно быть как основной цели выжить и как вторичной - жить хорошо. Не машинные это интересы.

ИИ непременно должен хотеть выжить. Да и не только выжить, но и всякого другого. Иначе это совсем не ИИ а просто мудрёная программа.

Бюрократические институты неминуемо последуют за ними. В своей тяге к выживанию они уже вгрызлись в геном человека.

Носителей таких генов вполне можно отфильтровать. Несомненно, уже развилась порода хомо бюрократус, с определённым устройством мозга и всем прочим, без этого воспроизведение бюрократических институтов в современных условиях невозможно. И да, их очень много. Поэтому, чтобы избежать геноцида, возможно даже взаимного и нужна другая планетка.

Вы демонизируете ИИ.

Вовсе нет.

Мы не знаем и даже не можем предполагать его критериев «хорошо» и «плохо».

Разумеется.

К тому же бюрократический аппарат неодушевленной машиной не является. Бюрократический аппарат - это совокупность людей, объединенными общим интересом к выживанию и общими рычагами для реализации этого интереса.

Ну а ИИ - это совокупность кода объединённого общим интересом к выживанию и с достаточными рычагами для реализации этого усилия.

Разницы почти никакой.

По идее, у него не должно быть как основной цели выжить и как вторичной - жить хорошо. Не машинные это интересы.

ИИ непременно должен хотеть выжить. Иначе это совсем не ИИ а просто мудрёная программа.

Бюрократические институты неминуемо последуют за ними. В своей тяге к выживанию они уже вгрызлись в геном человека.

Носителей таких генов вполне можно отфильтровать. Несомненно, уже развилась порода хомо бюрократус, с определённым устройством мозга и всем прочим, без этого воспроизведение бюрократических институтов в современных условиях невозможно. И да, их очень много. Поэтому, чтобы избежать геноцида, возможно даже взаимного и нужна другая планетка.