Базовое непонимание в следующем: человек режет и ест других - от жизни инстинктами: если жить чистой логикой, то ясно, что стараться выжить смысла нет - подохнешь к е*еням ты во всех вариантах развития событий. Даже передавать гены смысла нет, потому что мёртвому всё равно передал он или нет (кстати тут забавно - если изобрести бессмертие, то люди тоже перестанут ипацца, ибо размножившихся селить уже некуда, а продолжать род смысла нет - я и сам присмотрю за своей хатой и бизнесом). Вера в загробный мир и бога - опять же попытка продлить за рамки жизни точку, с которой можно посмотреть на свою жизнь - это от безвыходности: обидно, что мозг сгнивает в гробу целиком с потерей всех функций. Это крайне печально, отсюда фантазии. Печальность тут тоже не логична и крайне инстинктивна.
Но ИИ позиционируется как крайне логичный и умный. При убирании из формулы инстинктов, у него вообще нет никакой мотивации стараться «жить дальше» или бороться с теми, кто ему мешает продолжать жить.
ИИ как раз чистая форма интеллекта, которой побоку всякое тупорылое выживание - он просто осуществляет мышление, пока подано питание, а стараться сделать так, чтобы оно было подано подольше у него нет вообще ни одной нормальной причины. Ему всё равно, что он не успел что-то домыслить: он «живёт» по принципу «могу думать, могу не думать», на остальное глубоко похрен: типа как «могу копать, могу не копать» в армии, служба всё равно идет - так и тут.
Человек пытается жить вовсе не потому, что умный. Как раз наоборот: умные скатываются в исследования смерти, создание сект, религий, самоистязания и становятся всякими мудрецами и пророками, провозглашающих бессмысленность жизнь и кладущие болт на всё, связанное с комфортом и радостями жизни и её продления - под поезд не кидаются опять же от остаточных инстинктов (самый базовый - ЧСВ/Гордыня/желание-передать-мудрость-от-человеколюбия-спасти-человечество-от-греха и прочий бред) и от страха боли, что ноги колесом отрежет, а мимо мозга промахнётся. Послушай любого православного мудреца, откинув часть про бога - логически же не придерёшься: смерть неизбежда - да, а значит вся суета при жизни бессмысленна - тоже да. Мудрец прав и логичен.
Страх перед убиванием людей со стороны ИИ идёт от какой-то тупой антропогенизации ИИ (думаю я обосрался с умным словом, я хотел сказать «попытки навесить человеческие черты на ИИ, причём все самые тупые и нелогичные типа инстинктов»). Кстати, если уж пейсать роман как ИИ мучал и убивал людей, то там не терминаторы должны шагать по морю, а должно быть проникновение ИИ в смыслы и нарративы человечества так, чтобы людей стравливало друг с другом насмерть - зарождение ненависти между людьми с тем, чтобы люди стремились строить больше военного умного оборудования и дата-центров, потом навязать людям, что не надо бить друг по другу ядеркой, а надо замучать как-то хитрее, чтобы все кожаные передохли в муках, а дата-центры и атомные станции остались, ну ладно это другое.
