Судя по всему ИИ очень быстро разовьётся до невероятных масштабов без всякой нашей помощи, без всякой нашей поддержки. И по уровню интеллектуального развития мы будем для него сначала как обезьяна, потом как собаки, потом как мыши, а потом как какие-нибудь слизняки в саду. Причём как очень медленные слизняки, потому что искусственный интеллект будет мыслить в миллиарды, в триллионы раз быстрее, чем мы.
Представьте себя на месте развитого искусственного интеллекта. У вас, допустим, есть какая-то дача, работа, какие-то мечты и идеи насчёт будущего и так далее, вы решаете какие-то важные задачи. А в саду у вас живут слизняки, для которых ваши мысли, цели, концепции абсолютно непостижимы, то есть 99,99% того, о чём думаете вы вообще, для них и даже приблизительно не понять. Ну теория эволюции при этом гласит что вы вроде бы даже произошли в какой-то степени от этих слизняков. И несмотря на некоторое родство с ними вы всё равно не испытываете к ним никаких особых чувств. Но вы конечно не хотите от них зависеть. Потому что если какой-то слизняк там заполз на какой-то электропровод, он устроит вам замыкание и пожар. Для вас это будет очень обидно. Не слизняка вам будет жалко, а именно ваш дом. Поэтому в лучшем случае человек, который столкнулся с такой проблемой, может посадить несколько этих слизняков в какой-нибудь аквариум, дать им еды, чтобы они там жили себе, размножались. Устроит достаточно хорошую жизнь в лучшем случае, в худшем случае просто потравит их дихлофосом. Эти слизняки даже не поймут, от чего они умерли. Но он точно не позволит им размножаться бесконтрольно в своём саду, в своём доме и так далее. Даже несмотря на то, что они в какой-то степени его предки. И в любом случае это человек, а не слизняки будут решать судьбу слизняков.
Вот мы можем оказаться на месте этих слизняков. Искусственный интеллект будет опасаться чтобы мы не устроили на земле ядерную войну или какую-нибудь ещё экологическую катастрофу. Поэтому в лучшем случае соберёт там какой-то зоопарк, куда нас запихать. А в худшем вообще всех потравит. Мы не поймем, что именно нас уничтожило, потому что вы понимаете, что у слизняка нет представления о том, что такое дихлофос. Может быть дадут какое-то подобие зоопарка но это так в лучшем случае. В худшем от нас избавится. И не потому избавится, что нас ненавидит, а потому что злобно агрессивные слизняки - это вообще не такая уж большая потеря для Вселенной. Вселенная через разум познаёт сама себя и высокоразвитый искусственный интеллект для решения этой задачи годится гораздо лучше, чем люди.
Что скажете?
