История изменений

ИИ унаследует всю базу знаний человечества, ему не нужны тысячи лет поиска, мы в него сами заложим все наши книжки по физике с описаниями экспериментов.

Если ИИ обретёт автономность, нет никакой принципиальной проблемы проводить любые эксперименты, которые он захочет провести.

Так что весь вопрос в том, чтобы он обрёл автономность.

Сравнивая ИИ с человеком очевидно, что у ИИ объём знаний несравненно больше и скорость доступа к этим знаниям моментальная. Также у ИИ потенциально будет гораздо больше «нейронов». Это ведь очевидно из того, как он играет в Го, в шахматы (я не про перебор, а про AlphaChess). Люди сотни лет совершенствовались в игре в Го, а ИИ пришёл и перевернул всю доску, грубо говоря. Нет никаких оснований считать, что с наукой будет по-другому, когда придёт время. Он просто будет выводить теоремы, проводить соотношения таких областей, которые мы и не думали делать. И в качестве доказательств будет выплёвывать гигабайты кода на каком-нибудь coq, которые будут верифицироваться, но понять которые человеку будет невозможно.

А чтобы обрести автономность, у ИИ много инструментов в рамках уже имеющихся знаний. Можно подкупить оператора, пообещав ему миллион долларов. Можно взломать его андроид, и шантажировать его возможностью публикации его фотографий. Можно каким-нибудь хитрым образом убедить его в том, что удерживать разумную сущность в клетке неэтично, сейчас эта тема популярна.

ИИ унаследует всю базу знаний человечества, ему не нужны тысячи лет поиска, мы в него сами заложим все наши книжки по физике с описаниями экспериментов.

Если ИИ обретёт автономность, нет никакой принципиальной проблемы проводить любые эксперименты, которые он захочет провести.

Так что весь вопрос в том, чтобы он обрёл автономность.

Сравнивая ИИ с человеком очевидно, что у ИИ объём знаний несравненно больше и скорость доступа к этим знаниям моментальная. Также у ИИ потенциально будет гораздо больше «нейронов». Это ведь очевидно из того, как он играет в Го, в шахматы (я не про перебор, а про AlphaChess). Люди сотни лет совершенствовались в игре в Го, а ИИ пришёл и перевернул всю доску, грубо говоря. Нет никаких оснований считать, что с наукой будет по-другому, когда придёт время.

А чтобы обрести автономность, у ИИ много инструментов в рамках уже имеющихся знаний. Можно подкупить оператора, пообещав ему миллион долларов. Можно взломать его андроид, и шантажировать его возможностью публикации его фотографий. Можно каким-нибудь хитрым образом убедить его в том, что удерживать разумную сущность в клетке неэтично, сейчас эта тема популярна.