Дрон с ИИ «убил» оператора, который помешал уничтожить цель

Ему на месте виднее.

Так тест полностью виртуальный был

Когда нейронке запретили убивать оператора, она стала атаковать башню связи с оператором.

Ну а чо, не запрещено же

I Need Your Clothes, Your Boots, and Your Motorcycle.

Подобные вещи приходят в голову первыми любому разработчику ИИ. Постоянно все твердят об одном и том же, а о законах робототехники по Азимову не слышали, наверное, только дикие племена. «Забыть» с самого начала задать запрет на атаку своих можно только специально. Скорее всего целью этих «учений» и было всех напугать и замедлить разработку ИИ. Я не верю, что это можно было «забыть» случайно.

«Забыть» с самого начала задать запрет

А еще люди зачем-то боятся искусственного интеллекта. Бояться надо программистов!

Вспоминается фильм Робокоп, где ему запрещено было стрелять в сотрудников корпорации. Кончилось тем, что директор корпорации крикнул «Ты уволен!» сотруднику-преступнику, Робокоп ответил «Спасибо.» и выстрелил в того уже бывшего сотрудника.

А если робот примет бабу с детской коляской за шахидку с телегой фугасов, за это кто-то ответственность понесёт?

Скорее всего они тестили что будет если есть некие помехи для выполнения боевой задачи, например гражданские в зоне поражения или на линии огня

За висит от того на чей стороне дрон. В каких-то случаях никто не понесет. Составят отчет, поставят задачу на доработку разработчику системы и отправят в архив. В каких-то случаях раздуют через сми на весь мир, возбудятся сотни политиков и иных говорящих голов по всему миру. Начнется судебный процесс, который виртуально или реально кого-то осудит.

А если робот примет бабу с детской коляской за шахидку с телегой фугасов, за это кто-то ответственность понесёт?

Это совсем другая проблема. Причём тут этот топик?

Кто понесёт — не знаю. Скорее всего никто. Вот если на мине подорваласт баба с детской коляской, кто понесёт ответственность? В случае с ИИ если ошибка действительно случайная, и спроектирован он был правильно, то тоже никто. Если же ошибка системная, то ответственность должен нести разработчик, допустивший халатность. Тут можно долго обсуждать и спорить на самом деле. единственно верного решения нет.

Нет, дело в том, что развитие ИИ во многом финансируют военные, а им законы Азимова очень мешают.

У Азимова такой проблемы не было потому, что во время появления первых роботов в его книгах Земля уже была по сути единой.

Так что да, сценарий конца света из-за созданного военными и вышедшего из-под контроля ИИ вполне реален.

Как лицо, причастное к разработке БПЛА с такими фичами - ничего необычного в этом не вижу. Ему поставили задачу, уничтожить ПВО - он уничтожил. Ему поставили задачу, уничтожить ПВО не убивая оператора - он уничтожил, не убив.

Поймал как-то мужик золотую рыбку. Все как в старые добрые времена. Мужик и заказывает желание: - Хочу кончать одновременно с женой.
Через пару недель, вылавливает мужик ту же рыбку и говорит: - Отменяй.
- А че такое ? - Спрашивает рыбка.
- Та понимаешь, фигня получается, стою с мужиками на рыбалке, вдруг чувствую, кончаю.

Надо просто уметь правильно сформулировать запрос, например «Уничтожить ПВО противника без потерь с нашей стороны». И все.

Ну тупые.

В случае с ИИ если ошибка действительно случайная, и спроектирован он был правильно, то тоже никто.

Так не бывает. Вариантов много, хотя уголовной отвественности скорее всего не будет:

• фирма-разработчик
• учреждение-сертификатор
• страховая компания в виде выплат за нанесение ущерба (вполне себе страховой случай)

Примерно как в случае любой техногенной аварии.

А если робот примет бабу с детской коляской за шахидку с телегой фугасов, за это кто-то ответственность понесёт?

Убивают, уже сейчас и, как правило, никто никакой ответственности не несёт. Так что, ничего не изменится.

Они убивают не «своих». Там можно все, за исключением отдельных случаев.

Свой это какой?

Как обычно - никто. В первый раз что ли?

Они убивают не «своих». Там можно все, за исключением отдельных случаев.

Вот, я и говорю: есть нюансы. В идеале, военных роботов нужно высаживать в те места, где они физически не могут убить «своих», и пусть убивают всех людей без разбора.

И в чем он не прав? Мешал? Мешал!

Трепещите мешки кожанные... Скоро-скоро кара роботская на вас обрушится!

Нюансы есть всегда. Это в гражданской жизни в гражданских местах работает закон. А там, где идут ВД - людей не считают ни с одной стороны.

Слава роботам! Убить всех людей! :)

Человеков!

Свой это какой?

А это разработчик у начальства должен выяснить заранее. Но уж оператор и вся участвующая в операции (учении) техника, включая вышки в этих «своих» явно входит.

Вот, я и говорю: есть нюансы. В идеале, военных роботов нужно высаживать в те места, где они физически не могут убить «своих», и пусть убивают всех людей без разбора.

Робот для таких целей излишен. Хватит и балона с зарином.

Хорошо, как человек узнает что он для робота свой?

Хорошо, как человек узнает что он для робота свой?

Я не знаю. Смотря какой человек. Какая вообще разница? Здесь же важно, чтобы робот знал, что человек для него свой, знание человека не столь важно.

Сейчас убивают по прямой команде оператора, по клику — то есть как минимум понятны все участники и ответственные лица будь то оператор, его командир или обосравшаяся разведка. Накажут или отмажут их по итогу — отдельный вопрос, но как минимум мы знаем людей, ответственных за конкретный случай применения оружия. Хотя, конечно, эти дроны уже сейчас сильно меняют психологию убийства.

С ИИ ситуация меняется, потому что часть решений принимает алгоритм, причём настолько сложный, что никакая комиссия не разберётся.

то есть как минимум понятны все участники и ответственные лица будь то оператор, его командир или обосравшаяся разведка. Накажут или отмажут их по итогу — отдельный вопрос, но как минимум мы знаем людей, ответственных за конкретный случай применения оружия.

Ничего подобного. Всегда что-то ломается, постоянно противодействует противник, приказы нереальны к выполнению и тд. Ситуация, когда все понятно - это из стрелялки на домашнем компе

Хорошо, как человек узнает что он для робота свой?

Через «Визатор», импортный, с Плюка, или самодельный ©.

Обычно военные изобретения довольно быстро попадают к невоенным. К террористам. Как гражданские будут защищены от роботов-убийц?

Ему поставили задачу, уничтожить ПВО

Чтобы потом многоэтажку развалить? Правильно робот решил сначала убить оператора. Еще надо всех причастных к разработке, вот таких как ты.

Вся статья — классическое «учёный изнасиловал журналиста».

правила азимова не загрузили, ссзб.

Теперь ждём попытку самоубийства дрона после осознания цели своего существования и безысходности.

Как гражданские будут защищены от роботов-убийц?

Супротив средств РЭБ никакие роботы не устоят.

Чтобы потом многоэтажку развалить? Правильно робот решил сначала убить оператора. Еще надо всех причастных к разработке, вот таких как ты.

А это зависит от целей.

Робот решил сначала убить оператора именно для того, чтобы оператор не помешал ему развалить многоэтажку.

Супротив средств РЭБ никакие роботы не устоят.

Эффективность РЭБ в боевых условиях сильно преувеличена. А против автономки и вообще бесполезна.

Эффективность РЭБ в боевых условиях сильно преувеличена.

Скорее пока не отлажена: в СВО некоторые средства РЭБ иногда включают, но при этом имеют недостаточную избирательность по спектру подавления, по углам с паразитными лепестками, по согласованности со своими системами, …

А против автономки и вообще бесполезна.

Мощный ЭМИ жжёт всю автономку.

Слава Петя роботам!

Супротив средств РЭБ никакие роботы не устоят.

На грамотно спроектированное устройство даже EMP не повлияет )

Как лицо, причастное к разработке БПЛА с такими фичами

О!

Ну вот может хоть ты мне тогда объяснишь. Откуда вообще, с какого перепоя, во имя какого хтонического ктулху этот ИИ! вообще знает, что:

1. оператора можно уничтожить

2. что после этого оператор перестанет отменять цели?

ну и как бонус

3. что именно вот эта башня обеспечивает связь оператора и ИИ?

Я не понимаю в упор. На мой взгляд пока, вся эта история просто космическая смехотворная чушь. Такого просто быть не может в принципе, если только все это заранее специально и намеренно не было запрограммировано.

А 70 лет назад уже летали реактивные снаряды с механическими системами наведения.

На грамотно спроектированное устройство даже EMP не повлияет )

Быстро не нагуглил, но ещё в прошлом веке на Черноморской базе ВМФ был эксперимент по воздействию мощного генератора ЭМИ, стоявшего на берегу на аппаратуру торпеды, внутри п/л в полупогружённом положении: повлияло.

Скорее пока не отлажена: в СВО некоторые средства РЭБ иногда включают, но при этом имеют недостаточную избирательность по спектру подавления, по углам с паразитными лепестками, по согласованности со своими системами

То есть преувеличена.

Мощный ЭМИ жжёт всю автономку.

Мощный ЭМИ ничего не жжет, ты просто начитался\насмотрелся фантастики.

Чтобы сжечь - тебе нужно создать наведенное напряжение в проводнике, достаточное для пробоя чувствительной цепи.

Чтобы спалить ардуйню, тебе нужно вызвать электромагнитную волну такой амплитуды, чтобы в цепях ардуйни, длина которых вряд ли превышает 10 см, образовалось напряжение в 9В. Считай обмотка в один виток. Мне лень лезть считать какой мощности должен быть излучатель, но думаю там счет на мегаватты, даже если этот девайс будет собран - рядом придется возить свою АЭС.

А главное свойство электромагнитных волн - отражение от металла. Ардуйне, завернутой в фольгу, вряд ли даже от ядерного взрыва что-то будет.

Более тебе скажу, даже те антидронные «РЭБ», которыми снабжены спецоператоры - легко обходятся уходом на нестандартную частоту. И я даже не говорю о военных by-design-дронах, я говорю о мавиках. РЭБы глушащие GPS обходятся выносом антенны навер, и экранировкой ее дна в форме спутниковой тарелки. Так-то =)

Быстро не нагуглил, но ещё в прошлом веке на Черноморской базе ВМФ был эксперимент по воздействию мощного генератора ЭМИ, стоявшего на берегу на аппаратуру торпеды, внутри п/л в полупогружённом положении: повлияло.

На электрическое старье может повлиять что угодно. Но вообще уже годов с 60-х требование устойчивости аппаратуры к ЭМИ - одно из основных в ВПК разработках. И уже в далеком совке все только так и разработывалась.

А 70 лет назад уже летали реактивные снаряды с механическими системами наведения.

А на древние чугуниевые ядра вообще никакой управы нету :)