Когнитивное оружие

Это уже было у О'Генри. «Где шарик?»

Разграмливаю — со взрослым человеком в индивидуальном порядке такое сделать будет сложно.
Если этот человек не асоциальный хиккан, но и тут будут большие сложности.
Изменение сформировавшихся привычек — долгий процесс. Нужны очень сильные стимулы. Нужно убрать влияние окружения(«коллектива»), которое будет препятствовать изменению личности.

А вот как будет — на уровне общества(человечества) будут постепенно вводится некие «культурные нормы»(ака КоКи)(ну и другие воздействия, типа экономических).. Лягушку будут варить постепенно.
Следующие поколения будут всё более ленивыми и расслабленными «безродными космополитами», будут рожать всё меньше и меньше детей.

Дальше дарвиновские законы сами сделают своё дело.

По сути это просто возведённый в абсолют путём преувеличения и «фантастического допущения» Social Ingeneering (Кстати зря они на две статьи разделили, ИМХО. Там суть одна, просто области применения разные).

Понятно, что ИРЛ такого быть не может. Но это нормальный художественный приём: берётся какая-то технология, или проблема, или ещё какая-то подобная тема, и она доводится до своей крайней степени, за гранью возможной в реальном мире. На том же принципе построены, скажем, почти все без исключения антиутопии.

Делается это для того, чтобы упростить реальность с целью написать художественное произведение, за сюжетом которого интересно следить, и чтобы показать проблему более выпукло, однозначно и понятно читателю.

Сюжет звучит интересно и на самом деле, на мой взгляд, вскрывает вполне интересуню проблему: насколько картина мира человека действительно его собственная, а насколько извне, и насколько ей манипулируют. Да, про «бедный морпех всю базу своих положит» — это, конечно, преувеличение. Но ведь мы наблюдаем и ИРЛ, как картиной мира людей манипулируют «лидеры мнений». В том числе в серьёзных вещах, ведущих к активным или далеко ведущим действиям, пусть и не столь красочным, как внезапная атака собственной базы.

Поэтому громить такую идею я не вижу смысла. Напротив, над этим интересно поразмыслить и, возможно, поговорить. Не забывая, конечно, что в фантастике всё преувеличено, и ИРЛ всё «несколько сложнее».

Сюжет бредовый, фильм бредовый (не смотрел), мир бредовый. Понятия не имею что за гладос.

Фсё.

Кстати, это поднимает ещё один интересный вопрос. Вот например, мы злимся на упёртых людей, которым всё уже по полочкам разложили, прямые доказательства предоставили, прям перед глазами продемонстрировали, но они держатся за свои заблуждения, прибегая к совсем уж абсурдным доводам в духе «вы всё врёте, а то что я своими глазами видел — это голограмма» (утрирую, но совсем чуть-чуть — бывает даже да такого доходит). Так вот, с одной стороны да, мы скажем, что человек идиот, не умеет в критическое мышление, не может поменять точку зрения даже когда уже и сам где-то глубоко понимает, что неправ, продолжает убеждать себя в каком-то бреде и т.д. и т.п. С одной стороны всё так. С другой — если допустить этот фантастический сюжет с такими инопланетянами, именно эта упёртость и твердолобость и защитит человечество.

Сегодня мы смеёмся над xwicked с ведами, шлаками, Задорновым, гомеопатией и прочими чакрами. А завтра вот такие инопришленцы инопришляются, и мы все друг друга перебьём, а он выживет и отпор даст! :)

Коты уже победили.

Со мной не работает. Терпеть не могу домашних котов (на уличных просто пофиг).

По теме, похожая тема была в рассказе «Press Enter», только там ИИ был.

фильм полная шляпа чуть не уснул когда смотрел

по теме топика ничего не скажу

про злобного инопланетянина … подберёт такую картину мира что бедный морпех всю базу своих положит

Злобные комуняки подобрали такую картину мира, которая долго зомбировала советских человеков, но не спасла их от развала.

У Пратчетта была подобноя идеология но в положительном ключе. Головология у ведьм. Типа внушить что ты ебанул когото, смотри ему в глаза, радости много? А ненависти? Страха? Нравится?

Кажется, никто не понял моего комментария.

Поясню:

Афганистан. Душманы окружают маленький отряд. Командир говорит:
- Рация вышла из строя, надо кого-нибудь оставить прикрывать нас, а мы в
это время попытаемся прорваться и вызвать подкрепление. Добровольцу
оставим каску, три гранаты, автомат, если что, потом организуем пышные
похороны. Кто доброволец?
Грузин говорит:
- Рядовой Гыви Горидзе!!! Я сагласэн, только оставтэ мнэ нэ три гранаты
и каску, а три каски и адыну гранату.
Ну ему все значит оставили, уползли. Час проход - нет ни взрывов, ни
Выстрелов, два - ни выстрела, ни взрыва, три - ни какого шума. Отряд
Благополучно дошел до рации, вызвал подкрепление, теперь думают, надо
Хоть похоронить Горидзе, ведь зарезали его видно, раз шума-то не было.
Выбрали 10 лучших бойцов, поставили им цель принести тело товарища. Те
Приползают на место, где оставался грузин - смотрят: сидит Гиви, рядом
Куча оружия, одежда, десятки ишаков с наркотой, вокруг полуголые духи
Сидят... Грузин крутит каски и кричит:
- КРУЧУ - ВЕРЧУ, КАК ХАЧУ!!! КТО ЗАМЭТЫЛ ГДЭ ГРАНАТА?

Если кто всё ещё не понял - грузин из анекдота и есть инопланетянин с когнитивным превосходством.

Это вы ещё модераторов лора не видели

Дарвин, лягушки… всё смешалось.

Никто никого нигде не варит, это естественные исторические процессы деградации, просто наблюдать их в фазе обострения непривычно, ибо нет опыта по определению. Процессы это цикличны, так что никакой окончательной катастрофы не будет для всех, но по отдельности пострадают многие, и от осознания неизбежности последнего, эти многие начинают пускать слюни про Апокалипсис.

Ты название темы то прочитай.

Сегодня мы смеёмся над xwicked

Я не смеюсь.

он выживет и отпор даст!

К сожалению, он уже на крючке у инопланетян, которые ему импринтировали идею «живи сейчас, плати потом.»

Причём здесь тема, я ж с тобой разговариваю.

При том что тебе предлагается поразмышлять на тему «когнитивное оружие», а не «оно само, объективно исторически»

Дело хозяйское.

По теме, ну, у этого оружия есть сильная и слабая сторона. Слабая в том, что в тактике работает только в моральных пределах жертвы. Сильная в том, что в стратегии способно изменять моральные пределы. На этом всё.

В результате, менять моральные установки на лету — фантастика, что по сути лишает этот девайс грозного названия оружия. Время, затраченное на стратегию слишком велико, чтобы погасить осознанность всех.

Проще говоря, вводить за нос можно всех, но недолго, либо долго, но не всех.

Я не смеюсь.

Не, ну я уже тоже. Одно и то же долго смешным быть не может :)

Но речь-то не об этом в любом случае, общий посыл в другом.

Вот например, мы злимся на упёртых людей

Зачем вы это делаете?
Они защищают свою психику от разрушительной реальности.

Частный случай четвёртого принципа Норберта: «Невозможно в чём-то убедить того, чьё благополучие зависит от неубеждённости.»

Достаточно скоро будут массовые приступы избирательной амнезии, я-не-это-имел-в-виду, мои-слова-выдрали-из-контекста и прочих зачем-вы-ворошите.

со взрослым человеком в индивидуальном порядке такое сделать будет сложно

Практика говорит обратное — реципиента достаточно на неделю оставить наедине с «Соловьёв Лайв».

подберёт такую картину мира что

Это ОЧЕНЬ смелая идея, что человека можно заставить поменять свою точку зрения с помощью логики и фактов, пусть даже правдивых. Вы вообще где такое видели? 95% людей будет стоять на своем просто из-за собственного эго.

В общем, карьера этого инопланетянина будет не сильно успешной, советую этому петушку лететь в свою галактику :)

х/ф «гидравлика»

Понятно, что ИРЛ такого быть не может.

Почему?

Человеческая нервная система *очень* несовершенна, её вполне можно абьюзить, и это на практике успешно проделывали во все времена, разные интересанты и в самых разных целях.

Реально работающие примеры таких манипуляций из ИРЛ:
- Практики НЛП;
- Телефонное мошенничество, когда люди переводят «службе безопасности» все свои деньги. И сотни других разновидностей мошенничества, не только телефонного;
- Отдельно от «просто мошенничества» хочется упомянуть истории про цыган, потому что диву даёшся, как круто, волшебно получается у них;
- Всем с детства знакомое «развести на «слабО»». На многих взрослых (и мнящих себя очень умными) также отлично работает;
- Сорта пропаганды, когда отдельные люди и целые популяции людей покупались на целенаправленно сконструированную болтовню. Оно эффективно настолько, что целые государства вкладывают фантастические ресурсы в ведение «информационных операций», «гибридных операций», «информационного сопровождения». На один и тот же набор фактов можно натянуть диаметрально противоположные интерпретации, в произвольном направлении высосать из этих фактов очень убедительные выводы и заключения. В чём и упражняются, дна и края не видно.

Практики НЛП

Неоднократно доказали свою малоэффективность, в более-менее нормально поставленных экспериментах.

Телефонное мошенничество, когда люди переводят «службе безопасности» все свои деньги. И сотни других разновидностей мошенничества, не только телефонного.

Да, есть такое, и я об этом как раз тоже вспомнил. Но всё же, согласись, это не то же самое, что конкретно морпех, который внезапно атакует своих же. Тут немаловажным фактором является, что морпехи всё же проходят некоторый отбор, в том числе и по психическим факторам.

Всем с детства знакомое «развести на «слабО»». На многих взрослых (и мнящих себя очень умными) также отлично работает.

Аналогично всё. Именно это, в том числе и было взято за основу того, к чему применялось преувеличение.

Сорта пропаганды, когда отдельные люди и целые популяции людей покупались на целенаправленно сконструированную болтовню. Оно эффективно настолько, что целые государства вкладывают фантастические ресурсы в ведение «информационных операций», «гибридных операций», «информационного сопровождения». На один и тот же набор фактов можно натянуть диаметрально противоположные интерпретации, в произвольном направлении высосать из этих фактов очень убедительные выводы и заключения. В чём и упражняются, дна и края не видно.

Всё то же самое.

Такое ощущение, что мы по сути вопроса согласны, но ты не понял моего сообщения. Смысл и был в том, что это не с пустого места фантазия, а просто «докручивание» существующих проблем. Но, естественно, ИРЛ всё несколько сложнее, чем «поговорил с морпехом, и он пошёл атаковать своих». Именно так не бывает. И неважно, инопланетянин это или нет, есть просто определённые барьеры, которые так просто не преодолеть — нужно или гораздо дольше долбиться, или выбирать цели попроще. Дело не в «скилле»

Кстати, когда нейросетки станут ещё более доступны обывателю, и смогут просчитывать подобные психологические моменты, для всяких телефонных мошенников и прочих применений Social Engineering’a совсем раздолье настанет. Это сейчас они почти что интуитивно как слепые мышки тыкаются, нащупывая слабые места и точки воздействия. А если под это всё математический аппарат и бигдату подложить… Это по сути и будет примерно такая же проверка, как тем вымышленным инопланетянином. Только наяву.

«поговорил с морпехом, и он пошёл атаковать своих». Именно так не бывает

Если бы так не бывало, то к военным было бы неприменимо понятие «предатель» и «перебежчик». Многие военные пошли служить для того, чтобы защищать определенные свои ценности. Если убедить такого человека, что наилучшим вкладом в защиту его ценностей будет ликвидация собственного подразделения (наглядно показать, что в действительности подразделение не столько защищает ценности, сколько создаёт для них реальную угрозу) ... в принципе, он ведь и до этого разговора, полностью самостоятельно, пришел к заключению, что ради защиты его ценностей человеческих жизней не жалко? В его глазах он будет не предателем, а героем, а настоящие предатели (пусть, и невольные) - это как раз его бывшие сослуживцы.

есть просто определённые барьеры, которые так просто не преодолеть — нужно или гораздо дольше долбиться, или выбирать цели попроще

Ну, не с первой беседы :) Это ж не противоречит идее ТС-а. Можно сначала о птичках поговорить, или о кошечках. Познакомиться, сформировать позитивное эмоциональное восприятие, установить «дружеские» отношения, кредит доверия получить. Постепенно раскрыть перед человеком новую картину мира, для адаптации к которой он сам передвинет свои барьеры. И лучше это делать не в индивидуальном порядке, а сразу через СМИ и публично, чтобы поменьше параноили.

Хотя, у цыган, как раз, получается именно сходу, и достаточно глубоко.

=========================

Только сейчас заметил, что ТС ссылается на конкретный фильм. Ок, я его не смотрел, так что судить не могу. Вполне допускаю, что в фильме показан гротеск.

Если бы так не бывало, то к военным было бы неприменимо понятие «предатель» и «перебежчик».

Конечно. Но так не бывает, чтобы это на любого действовало. Если выбрать правильного человека, то да. Но для этого даже не обязательно быть инопланетянином.

Ну, не с первой беседы :) Это ж не противоречит идее ТС-а. Можно сначала о птичках поговорить, или о кошечках. Познакомиться, сформировать позитивное эмоциональное восприятие, установить «дружеские» отношения, кредит доверия получить. Постепенно раскрыть перед человеком новую картину мира, для адаптации которой он сам передвинет свои барьеры. И лучше это делать не в индивидуальном порядке, а сразу через СМИ и публично, чтобы поменьше параноили.

Да, всё так. Но это, опять же не противоречит написанному мной.

Ну и тоже не на 100% аудитории это подействует. И во многом именно поэтому и эффективнее делать это публично. Даже если сработает идеально на 5% аудитории и просто положительно (с твоей точки зрения) ещё на 30% — это уже успех.

Он масштабами достигается. Никто не ставит целью переубеить вот этого конкретного упёртого баран. Хватают «низко висящие яблоки». Примерно так же всякие Чумаки и американские их аналоги работали — сперва с помощью нехитрых вопросов находятся наиболее «внушаемые» люди в зале, затем уже они вызываются на сцену, и с ними проводятся «фокусы». Ну например самый хрестоматийный приём: «экстрасенс» говорит своим поставленным голосом залу «сцепите руки пальцами в „замок“ вот так (показывает), теперь закройте глаза, представьте тепло, бла-бла-бла, почувствуйте бла-бла-бла, и ваши руки срослись и не могут расцепиться… (пауза, затем резко) Теперь попробуйте расцепить руки!». И смотрит, кто нормально расцепил и ухмыльнулся, а кто реально себя убедил, что руки расцепить не может и так и сидит. Кто наиболее не может по внешним признакам — так уже для более сложных манипуляций приглашают на сцену. Это классика.

Хотя, у цыган, как раз, получается именно сходу, и достаточно глубоко.

Они, кстати, довольно быстро самим приёмам убеждения обучаются. А знаешь, в чём основной скилл, для которого больше всего практики нужно? А вот всё то же самое, что в прошлом пункте. Выбрать из толпы правильного «лоха». Это по сути 90% задачи — найти того, на кого сработают твои приёмы убеждения, набор коих весьма ограничен и не особо универсален. Подавляющее большинство людей не поддаётся на это. Но есть те, у кого в жизни что-то не то происходит, усталость, замороченность, неопределённость, всё это накладывается одно на другое, и человек «цепляется» за подобные штуки.

P.S. Фильм я, если что, тоже не смотрел. Но по описанию, по-моему, вполне понятен художественный приём, и что пытались показать. Как я и говорил, «разбомбить» мне тут ничего не хочется, вполне нормальный приём, и интересную проблему подсвечивает.

Проще говоря, вводить за нос можно всех, но недолго, либо долго, но не всех.

Когда эту пословицу придумывали - обманщики были ограничены естественными возможностями. ИИ или инопланетяне не ограничены. Моральные установки менять необязательно, лишь бы цели были выполнены

Да уж, у этого продукта есть недоработки. Бибиси вот оставляет загадки, чтобы поциенты их разгадывали и преисполнялись, как с Матрицей

Что мешает позитивно включить эго поциента в логику и факты при неограниченной когнитивной мощи?

Тебе же уже растолковали, что ограничения лежат в реципиенте.

Тебе же уже растолковали, что ограничения лежат в реципиенте.

Таков сегодняшний common sense. Но откуда уверенность, что это фундаментальное ограничение, а не следствие недоразвитости манипулятивных техник? Вдруг реципиента можно подцеплять получше, чем сейчас обычно это делают?

Это по сути 90% задачи — найти того, на кого сработают твои приёмы убеждения, набор коих весьма ограничен и не особо универсален

Массовый сбор информации о поисковых запросах, о посещенных сайтах, о диалогах в мессенджерах, и тому подобном - как раз в эту тему. Получается, что ИИ нужно получить доступ к собранной телеметрии, и специфическим образом её обработать - составить психологические портреты, найти людей с подходящими убеждениями и повадками.

AfrAId (2024)

Говнота. Китаец-куколд в главной роли. Фу.

Вдруг реципиента можно подцеплять получше, чем сейчас обычно это делают?

Сказки. Сколько копий сломали об глупых детей за тысячелетия (это самая сложная сторона вопроса)! Что же касается манипуляций взрослыми, то даже гипноз и НЛП не продвинулись никуда, то есть они прекрасно работают, но только на заинтересованном, мотивированном на работу пациенте.

Если же речь идет о паразитировании на низменных качествах людей, то ИИ уже давно опоздал на этот праздник.

Речь о том, чтобы проабьюзить, хакнуть, информационную систему. Подать её на вход специально составленную информацию, чтобы система сработала не так, как это обычно происходило в ходе эволюционного отбора, а в некоем паталогическом режиме. И в результате выполнила те цели, которые преследовал составитель.

Манипуляции, которые обсуждались выше в этом треде, они из этой серии. Но сегодня они относительно слабые - не каждого реципиента проберут, или хотя бы не быстро. Откуда уверенность, что невозможно делать это качественнее?

Ошибка выжившего.

Что значит хакнуть? К железу доступа нет. Софт пишется на лету самим пациентом на основе собственных потребностей и именно здесь будет проблема. Еесли хакать будет на тему пожрать, потрахаться и стать великим, то это будет не хакер, а просто дед мороз какой-то. На другие темы хакер обламается.

Что значит хакнуть? К железу доступа нет.

Железо дырявое, словно дуршлаг. Мы сами этого не замечаем, потому что заключены внутри него.

чтобы система сработала не так, как это обычно происходило в ходе эволюционного отбора, а в некоем паталогическом режиме

Здесь опять опоздали, дела обстоят так уже тысячи лет — с того самого момента как зародилась культура, начиная с самой-самой примитивной.

Железо дырявое, словно дуршлаг.

Приведи пример.

Воспитание, культура, это всё понятно. Но вдруг есть ещё паталогические режимы, другие?

Но вдруг есть ещё паталогические режимы, другие?

Нет. Все режимы давно вскрыты психологией, хотя изучены посредственно, а лечение и подавно не найдено в большинстве случаев. Здесь как у этих ваших физиков, типа чё дальше будет в общем знаем, но как это работает — хз.

Железо дырявое, словно дуршлаг.

Приведи пример.

подходит к тебе инопланетянин и иглой через глаз тыкает тебе в мозг.. типо лоботомия только более тонкая

нас, дебилов, не пронять.

Железо дырявое, словно дуршлаг.

Приведи пример.

Я пришел к этому заключению после прочтения книги «умный дизайн» за авторством Джеффа Джонсона. Книга про то, как надо проектировать графические интерфейсы программ, чтобы пользователь в них не терялся. Для этого описаны ограничения (и иногда примеры, что получается, когда ограничение не соблюдаешь) человеческого восприятия. Божечки, какое же оно оказывается неполноценное и угребищное, просто костылина какая-то! И вот под эти ограничения надо целенеправленно, осознанно проектировать, чтобы угрёбище не порвалась, когда ему предъявят UI. Забавно было после прочтения понять, что живешь с этим, и не замечаешь, не задумываешься даже - а оно реально так и есть!

Если даже визуальное восприятие простых в общем-то вещей так затруднено, то всё остальное мышление - тем более конструкция из скотча и палок.

Пересказывать книжку на форуме мне лениво, сорян.

Могу ещё привести пример оторванности человеческой нервной системы от реальности. Когда смотришь хороший боевик, как там актеры залихвацки убивают друг друга, в кровь выбрасывается адреналин, сердцебиение учащается. Почему так происходит? А потому, что мозг не понимает, что это всё понарошку было, на съемочной площадке 10 лет назад, и готовит твое тело к реальному бою на выживание, здесь и сейчас. Неадкеват полнейший! Полностью аналогичная тема - с порнухой. Человеку показывают на экране готовую к соитию самку, и его мозг выделяет гормоны, возбуждение, эрекция, давай скорее оставлять потомство! Сидя наедине с экраном, бгг. Если это не угребищный дуршлаг, то что это тогда?

Практики НЛП;

О, я старый, я помню моду на эту херню. Кто не старый, тем рассказываю в трех словах: НЛП - это когда сидит молодая симпатичная чувиха, которой охота потрахаться вон с тем молодым симпатичным чуваком, и терпеливо ждет, пока он, значит, по учебнику НЛП от нее именно этого добьется.

Там не только про отношения полов (хотя не удивительно, что популярностью пользовалась именно эта тема).

Вот это - ложе нлп - https://rutube.ru/video/64ce0fe787b446906b4a4d93ff142931/

«Ложе НЛП»!

Красота за красотой.

ложа, практически :)