Для ъ tl;dr будет?

make love, not war.

Для ъ tl;dr будет?

Ну вообщем, уже через несколько лет может появиться автономное оружие и это будет совершенно новым скачком развития после изобретения пороха и позже ядренной бомбы. При этом создание или его копирование будет намного проще и дешевле, чем например ЯО. Поэтому если сейчас не принимать никаких мер по его запрету или ограничению, нехорошие редиски могут им воспользоваться и тогда мы все умрем. Данное письмо направлено на применение робототехники и ИИ исключительно только в мирных целях и для людей.

Спасибо!

пентагон скажет nobody cares

Фигней маются! Ведь клево было бы закинуть пару сотен тысяч терминаторов в ИГИЛ, нехай там наводят порядок...

Идиоты моралфаги.

А чо в игил, нехай везде наводят.

СЛАВА РОБОТАМ

в ИГИЛ

Что помешает ИГИЛ к тебе их тоже забросить. Деньги у них тоже есть.

У них и терминаторы есть, проблема в наших внутренних службах.

Идиоты моралфаги.

Норвиг, Шапиро, Хокинг, Хомский - каждый из них на порядок умнее тебя и разбирается в теме так, как ты никогда не будешь.

Какие у них доводы? Они же смешные — или моралфажество убогое, или боязнь некорректной работы этих «терминаторов». Второе имеет право на жизнь, но и люди «косячат» на войне достаточно (именно «косячат», а не выполняют приказ).

Вообще глупо — тогда надо выступать за запрет любого оружия, за запрет войн и т.д. Без трусов, но с крестиком и деятели, и просто подписавшиеся.

Биологическое и химическое оружие ограничили чуть не до нуля - почему'б и это нет? Заранее запретить проще, чем заставить уничтожить.
А вояк на самом деле устроили бы и мечи - еслиб можно было сразу всех заставить пользоваться только мечами.

Биологическое и химическое

Массового уничтожения. Было бы избирательного — хрен бы запретили.

Да и запреты часто ни кого не останавливают, а в случае реального здеца все пошлют их лесом.

вояк на самом деле устроили бы и мечи

Вояк устроила бы война без всяких правил («правила войны» — всегда вымораживает).

Еще про вояк — разработки не летального оружия ведутся давно, только о его применении ни чего не слышно. А вооруженные ракетами БПЛА — пожалуйста.

Лол, так они же сами (Маск, например) будет разрабатывать это оружие для Пентагона. Пчёлы против мёда? Опять нас где-то наё**вают.

Нет. Пора выпиливать землю от обезьян. Что, не готовы пожертвовать собой ради чистой Земли, слабаки? Трясутся за свою душеньку, но их не спасёт ничто. Ныне слишком много людей, а Земля одна, не резиновая. Что, голод уже победили? Нет, а дальше будет только хуже

Так что, пусть пилят и запускают этих роботов. Им-то еда не нужна.

От Чомского такой глупости не ожидал.

8/64

СР! УВЧ!

Устроили бы только если у противника были бы мечи хуже.

А может граждане страны, у которой дроны набили гражданского населения больше чем их пехота сначала со своим ушастым разберуться, а потом в петиции играть будут?

у них там, вроде, главный кассир оставил обидную записку и свалил с кассой.

Ну «автономное оружие» это понятно.

А ИИ где? Если это типа этих самых «Сири» и «Окей гугла», то почему такая паника?

Или Т1000 уже на подходе? И батарейки к ним есть?

Или терминатор будет на двс от скутера?

Вообще глупо — тогда надо выступать за запрет любого оружия, за запрет войн и т.д.

Ты просто гений.

свалил с кассой.

И нефтянными вышками?

не понял смысла?

чучоных надо в ирак и афган, и не в форт бастион, под прикрытием эт самого ИИ и автономного оружия, а на горный перевал,
пусть посидят, по радиве душманам прочитают лекцию о миролюбии.

А ИИ где? Если это типа этих самых «Сири» и «Окей гугла», то почему такая паника?

Будет достаточно какого-нибудь дрона, напичканного свинцовыми подарками, рапознавалкой и кривой программой на пхп, которому, пролетая мимо тебя или твоей семьи, не понравится твой цвет кожи или цвет твоего велосипеда. Чем не ИИ? будет много лулзов, только не для тебя.

Ты просто гений.

Спасибо за признание моих талантов.

Ограничивают оружие массового поражения (ядерное туда же). Потому что оно слишком неконтролируемое. Например, то же биологическое оружие слишком подвержено мутациям. Любые попытки вшить в ДНК вируса фильтр «атаковать только представителей народа Х» рано или поздно будут обойдены естественным отбором, ибо люди слишком похожие даже разных рас. К тому же тут попахивает нацизмом. Ту же радиоактивную пыль или ядовитый газ легко может снести ветром в сторону ни в чём неповинного города. Возможно, даже принадлежащего той же стороне, что и выпустила это оружие.

В общем, все эти виды оружия - оружия для камиказде. Они не дают никаких гарантий, что их жертвами не станет неопределённый круг лиц.

В случае с роботами всё гораздо лучше, ибо можно чётко задать цели. Касательно ошибок - люди допускают на войне ошибок не меньше, а то и больше (машины не подвержены страху, усталости и эмоциям - они не могут запаниковать и открыть огонь без приказа, например).

Ну и, наконец, а что собственно плохого в том, что нести потери будет только тот, кто проиграет? В войне на мечах неизбежно пострадает и победитель, и проигравший (ну если, конечно, это не война против младшей группы детского сада). В войне с помощью роботов - только проигравший. И то не факт, ибо в 21-ом веке войны обычно ведутся за ресурсы, а не ради истребления народов. Так что если проигравшие после того как их машины будут повержены не пойдут в самоубийственное противостояние с машинами победителя, а сдадутся, то, возможно, вообще никто не погибнет.

Можно вести речь о том, что воевать вообще не нужно - да, однако мешать одной из сторон уменьшить свои потери - зачем? Вы хотите, чтобы погибало больше людей?

В войне на мечах неизбежно пострадает и победитель, и проигравший (ну если, конечно, это не война против младшей группы детского сада). В войне с помощью роботов - только проигравший.

Можно услышать обоснование последнего тезиса, насчет «только проигравший»?

в 21-ом веке войны обычно ведутся за ресурсы, а не ради истребления народов.

ИГИЛ смотрит на тебя, как на мертвеца.

Ну то, что их встретят сначала «хорошие» терминаторы. И пойдут убивать мирных жителей они уже после того как пройдут этот уровень обороны. А поскольку у нормальных государств ресурсов куда больше, чем у любого ИГИЛ, последний в лобовом столкновении обречён.

последний в лобовом столкновении обречён.

Ну ладно. Как на счет терракта? Достаточно лояльного инсайдера, который запустит железку в толпе. Можно даже удаленно. Можно даже несколько инстансов одновременно в разных локациях.

Можно услышать обоснование последнего тезиса, насчет «только проигравший»?

Ну потому что в ответ на атаку дронами будут выставлены в качестве защиты такие же дроны. И палить по людям будут только после того как уничтожат оборонных дронов. Таким образом с той стороны, чья оборона пробита не будет (по той причине, что она успеет раньше пробить оборону соперника) и потери практически не понесёт. С другой стороны у проигравшей стороны после потери всех дронов практически не будет шансов и она может проявить благоразумие и сдаться. В таком случае вообще никто не погибнет.

Чтобы клепать дронов нужны ресурсы. Страна, которая может клепать много дронов, и так победила бы, потому что у неё есть огромные возможности. Разница лишь в том, что изменится пропорция погибших среди сторон.

Касательно того же ИГИЛа он слабее тех государств, которые могут себе позволить наклепать огромную армию дронов, так что в случае подобного конфликта проиграет, ибо у него будет банально меньше дронов.

Ну и наконец смещаются акценты. Теперь для победы надо вкладываться в образование и производство, а не в упоротое пушечное мясо. Разве это не прекрасно, если в войнах будут побеждать страны с наилучшим уровнем образования и экономики? Ах да, тут опять всякие ИГИЛы в пролёте, потому что упоротость по религии мало способствует науке.

ибо у него будет банально меньше дронов

Однако у них есть хорошие шансы терроризировать соседние государства.

Какое принципиальное отличие от террориста-смертника? Промыть мозги какому-нибудь идиоту гораздо проще, чем привлечь специалиста, который организует теракт с помощью высоких технологий. Это только в фильмах террористы используют последние передовые разработки, а если посмотреть на реальность, то они всегда отстают в технике. А к тому моменту, когда они таки дорастут до нужного уровня, улицы уже будут патрулировать автоматические дроны, которые будут автоматически выявлять взрывчатку и сбивать дроны с ней.

Ещё раз повторюсь - человеческий ресурс на самом деле очень дешев для подобных организаций. Пушечное мясо гораздо дешевле дрона. Экономически выгоднее нарожать побольше быдла и отправить его заваливать врага трупами. Это дешевле. Вопрос в том, что в более-менее развитых странах собственное население будет очень недовольно таким ходом и это может плохо кончится (вплоть до того, что очередная порция мяса развернётся и пойдёт свергать правительство). Так что дроны выгодны в первую очередь для тех государств, которые таки заботятся о своих гражданах. Религиозные фанатики идут лесом.

Промыть мозги какому-нибудь идиоту гораздо проще, чем привлечь специалиста

Специалиста всегда можно привлечь хорошим вознаграждением.

Это то да. Только вот грубо говоря вместо одного специалиста (который между прочим точно также и свалит, если кто-нибудь предложит вознаграждение получше) можно промыть мозги нескольким смертникам, возможно, нескольким десяткам. Если не стоит цели обеспечить благосостояние рядовых членов организации, то делать из них смертников для терактов куда выгоднее. Дроны будут по остаточному принципу.

Можно услышать обоснование последнего тезиса, насчет «только проигравший»?

Ну потому что в ответ на атаку дронами будут выставлены в качестве защиты такие же дроны.

Что за чушь? Например, у России в оборонной доктрине записано «если атака угрожает существованию государства, мы применяем ядерное оружие». Асимметричные ответы - это основа войны.

И палить по людям будут только после того как уничтожат оборонных дронов.

Ну конечно, что может пойти не так.

Разве это не прекрасно, если в войнах будут побеждать страны с наилучшим уровнем образования и экономики? Ах да, тут опять всякие ИГИЛы в пролёте, потому что упоротость по религии мало способствует науке.

Черт, ну нельзя же быть таким наивным...

Асимметричные ответы - это основа войны.

Ну да, выставить толпу призывников на расстрел против вражеских дронов - отличный асимметричный ответ. Послать свою армию дронов (и её предварительно иметь, конечно же) - банально лучше в плане тактики.

Вариант с ядерным оружием опять же не в тему. Оно будет применено и в случае если существованию государства будет угрожать толпа людей в средневековых доспехах (просто их будет очень много).

То есть такой исход (будет очень плохо всем) не зависит от наличия или отсутствия дронов у противника (собственно, и противник это учтёт - США не станет нападать на Россию даже с дронами, если только не будет способа обезвредить наше ядерное оружие). Да и когда дело дойдёт до ядерного оружия, то дронами никто пользоваться точно не будет, ибо закидать город ядерными ракетами таки дешевле, чем зачистить дронами.

С другой стороны есть куча ситуаций, когда ни о каком ЯО речи быть не может. И вот в таких войнах есть два варианта - либо будут жертвы с обеих сторон, либо только с одной. Очевидно, что второй лучше.

Ну конечно, что может пойти не так.

Конечно, может. Но, как я уже сказал, жертвы будут лишь с одной стороны.

Черт, ну нельзя же быть таким наивным...

Ну согласись, что у США или Китая, ведущих мировых экономик, с наукой куда лучше, чем у ИГИЛ. Ну просто на много порядков лучше. И эти страны ещё принимают кучу усилий, чтобы ещё улучшать ситуацию. Сколько на научные исследования потратил ИГИЛ? Да, конечно, можно закупиться дронами у других государств, но, очевидно, что развитая страна не продаст то, что позволит уничтожить её саму.

---

Ну и вообще, как можно заметить, в 21-ом веке сверхдержавы не ведут войны между собой. За это можно сказать спасибо ядерному оружию. Войны ведутся лишь между мелкими государствами (возможно, иногда в интересах крупных). А дроны это отличный шанс утихомерить всех.

Как на счет терракта?

Бомба пока вне конкуренции — дешево и сердито.

Асимметричные ответы - это основа войны.

Ну да, выставить толпу призывников на расстрел против вражеских дронов - отличный асимметричный ответ.

А еще лучше - считать, что противник отсталый идиот, ни на что не способный. Так спокойнее.

Но, как я уже сказал, жертвы будут лишь с одной стороны.

Ты не смог это обосновать.

Ну согласись, что у США или Китая, ведущих мировых экономик, с наукой куда лучше, чем у ИГИЛ

Конечно. И что это значит? То, что НИОКР для создания боевого AI могут позволить себе не все. А готовый товар - любой покупатель.

очевидно, что развитая страна не продаст то, что позволит уничтожить её саму.

Страна - не продаст, граждане - могут. Промышленный шпионаж тоже имеет долгую славную историю. Кроме того, если друг друга начнут кошмарить, например, Пакистан с Индией - всему миру будет хреново. При том, что ни Китай, ни США, ни Европа не продавали им технологий, которые уничтожат продавцов.

Биологическое и химическое оружие ограничили чуть не до нуля

По причине неизбирательности, сложности хранения/доставки, низкой эффективности против регулярной армии, etc.

Ты не смог это обосновать.

А ты обоснуй почему это будет не так. Я знаю одну страну, которая активно применяет дроны в военном деле - это США. И таки потери они с помощью дронов очень хорошо минимизируют. Пока технологии не достаточно совершенны, конечно, приходится иметь в странах присутствия слишком много смертных солдат, но всё идёт к тому, чтобы постепенно отказываться от них. Да, я не говорю, что США ведёт войны справедливо и что они белые и пушистые. Но таки своих солдат они жалеют, потому и применяют высокие технологии.

Дрон это не грязная бомба, не достаточно украсть один образец и взорвать его. Нужно украсть технологию и уметь её воспроизвести. А для этого надо иметь более-менее сопоставимый уровень развития. В те же времена гонки вооружений СССР отставал от США в оборонке не так уж и сильно, а местами было наоборот, поэтому промышленный шпионаж был эффективен.

если друг друга начнут кошмарить, например, Пакистан с Индией - всему миру будет хреново

Оружие массового поражения это совсем другой разговор. Достаточно даже просто украсть где-нибудь несколько ядерных бомб или штамм смертельного вируса, чтобы устроить большие проблемы всему миру. Но мы обсуждаем в треде боевых дронов. И от них не будет вреда всем, будет вред только участникам конфликта. А если они развернуться против всего мира, то опять же страны вроде США или Китая таки сильнее и наклепают больше дронов засчёт развитых технологий.

Ты не смог это обосновать.

А ты обоснуй почему это будет не так.

А мне достаточно мнения экспертов (Норвиг, Шапиро, Братко - эксперты по AI, которых даже я знаю, а о Хокинге ты, возможно, и сам слышал) и собственного знания военной истории.

И таки потери они с помощью дронов очень хорошо минимизируют.

facepalm.jpg Ты даже не понимаешь разницы между современными дронами (remotely piloted) и гипотетическими дронами с AI?

Нужно украсть технологию и уметь её воспроизвести. А для этого надо иметь более-менее сопоставимый уровень развития.

Ты хоть читал то, что пытаешься обсуждать? Там же написано, что на этот раз технологии будут легко воспроизводимы:

«the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow. Unlike nuclear weapons, they require no costly or hard-to-obtain raw materials, so they will become ubiquitous and cheap for all significant military powers to mass-produce. It will only be a matter of time until they appear on the black market»

если друг друга начнут кошмарить, например, Пакистан с Индией - всему миру будет хреново

Оружие массового поражения это совсем другой разговор.

У меня рука устала от фейспалмов. Удары по опасным производствам сами по себе оружие массового поражения, а если ты сомневаешься, что дроны с AI дадут новый уровень прорыва ПВО - ты тупо не следишь за темой.

И правильно, надеюсь мы дойдем до ментатов и мастеров меча, без Батлерианского Джихада.

Есть множество других, областей в которых можно развиваться. Но нет всем нужен ИИ, типо вот он то человека поймет, он то сделает все правильно, а может и не сделает.