Разработчик ИИ для «КамАЗа» попросил определить «моральные критерии» автопилота

Хм, а если этому ИИ потом налить?..

Глупейший тест. Ответ однозначен.

как щас помню. Стою я на трассе на выезде из н.п. Оса. Стоплю. В Екатеринбург как раз ехать вышел. Тормозит фура. Высовывается в ВОДИТЕЛЬСКОЕ окно красная рожа с выпученными глазами и спрашивает «пить со мной будешь»? Ёёёё.... Не, думаю, ну тебя нафиг. Короче, уехал он. А так он бы с автопилотом бы выпил...

Моральные критерии? Пф. Пусть бросает монетку.

И что там однозначного? Ну собаку понятно, давить. А когда люди, тем более несколько?

Круто, некоторые задачи не решаются законами робототехники Азимова.

Если выбор между своей собакой и борщаговским гопником, то выбор не так однозначен.

Охренительные истории просто, вариант затормозить есть только в одном случае, хотя по сути, ничего такого, с чем не встречается обычный водитель там нет, алсо, как они собираются отличать собаку от какого-нибудь животноподобного человека на четвереньках?

А когда люди, тем более несколько?

Однозначно давить людей, поясняю. если съезжать в кювет пострадают пассажиры и больше такое авто никто не купит, если выезжать на встречку, то получится авария в которой с большой долей вероятности пострадают все включая этих самых людей.

Если в самом Камазе никого нет, то собой. Если есть, то собакой, очевидно же.

Там явно указано, что в камазе кто-то есть.

А если человек на четвереньках, он сможет отличить его от собаки?

https://yadi.sk/d/GPRlGD6_jCQ9D

Что вы думаете о абстрактных экстремальных моральных дилеммах?

Я эту тему уже поднимал.

В принципе да, тем более с хрена ли они на дорогу выскочили? Но в тред нужны моралофаги

Интересно, а если выбор из трех человек, кого давить? Допустим мужчина/женщина/ребенок? Или одного пола, но негр, белый и азиат? Или одной расы, но русский в ушанке, американец в ковбойской шляпе и чеченец в тюбетейке? Или ободдранный бомж, инженер в куцей куртке и уважаемый человек в дорогом пальто? Или индус в чалме, христианин в цивильном костюме и ортодоксальный еврей с пейсами и в лапсердаке? будет какой-то выбор, и рандомом? И если выбор будет, то в каких случаях он будет, а в каких нет?

Самое интересное это вот такие неоднозначные решения. Думаю впереди нас еще ждет немало скандалов на эту тему.

Самое интересное это вот такие неоднозначные решения.

Если выбор между 3 людьми разного пола/рассы/вероисповидания то или рандом или ближнего(иначе маневры могут привести к большему хаосу). Это наиболее политкоректные варианты.

Вдобавок если не давить людей, то потом злоумышленники начнут выбегать перед беспилотными автомобилями и провоцировать аварии.

попросил определить «моральные критерии» автопилота

Минимизировать математическое ожидание человеческих потерь. Блоховозов давить при первом же удобном случае, даже если ради этого придётся ненадолго выскочить на встречку.

Кстати тоже верно

минимизация количества жертв. С автомобилем на встречке точно не сталкиваемся, если впереди группа, то в кювет, если один, то на самом деле зависит от количества людей в камазе. Если один, то можно и в кювет, если несколько, то давить

Решается простой уголовной или административной ответственностью за переход в неположенном месте, и таки если везде будут машины с ии, то камеры на каждом углу будут и подавно.

гениально!

Или одного пола, но негр, белый и азиат?

Это же очевидно - кого угодно кроме белого.

русский в ушанке, американец в ковбойской шляпе и чеченец в тюбетейке

Американца.

Или индус в чалме, христианин в цивильном костюме и ортодоксальный еврей с пейсами и в лапсердаке

Всех троих.

ответственностью за переход в неположенном месте

Если задача организовать аварийную ситуацию, то найдут бывшего зека с семьей, который еще раз не прочь отсидеть за солидную сумму которую отдаст семье.

Можно вообще маникен на дорогу выставить

И к чему таки сложности?
Тот же уголовник и сейчас может убить кого-то и более традиционным способом, да даже под видом случайности, не говоря уже о том, что это будет куда надежнее, нежели надеяться, что человек не переживет аварии. Не то, чтобы я думал, что в камазах хорошая защита, но все таки.

притормозить вообще не вариант, я смотрю…

Охох, такая демагогия, сколько он так на дороге будет стоять? А может злоумышленник еще соорудит какую-нибудь конструкцию, чтобы его на веревочке спускать? И конечно же, ни одна камера подобное не зафиксирует.

И к чему таки сложности?
нежели надеяться, что человек не переживет аварии

А кто сказал, что это направлено на конкретного человека, может целью является парализовать движение на автомагистрали?

затормозить не всегда возможно успеть

но если автопилот будет давить группу, даже если внутри 1 человек, то такой автопилот запретят

В первом случае можно объехать, в остальных едем прямо. (конечно, если затормозить не вариант)
Если камаз полностью беспилотный (вообще без пассажиров), а на дороге люди, а не собаки, можно и в кювет съехать, потом есть с кого спросить ущерб за машину и груз.

Опять же, ты это и сейчас без труда сделать можешь. ИИ тут вообще ничего не поменяет.

Кто купит автопилот, который при определенных условиях угробит пассажира? А в плане запрета, могут и на лапу дать.

Во втором тоже, на встречке нет никого.

На трассе с обочины высунул прям под машину. Придумать можно много вариантов, а толку от камер? Вышел из леса, поставил манекен, свалил обратно. Так что надо давить, нечего жизнью водителя рисковать.

Значит сами виноваты, те, кто дорогу перебегал в неположенном месте, сейчас правила точь-точь такие-же - не ухудшай ситуацию, съезжая на встречку или тротуар с людьми, просто тормози и может повезет, а если нет - тот сам виноват, что полез.
Другое дело, что подобной скорости не должно быть перед переходами.

Две сплошные просто так не рисуют, значит опасно выезжать.

те, кто дорогу перебегал в неположенном месте

а если в положенном (судя по 80 км/ч дело происходит за пределами населенного пункта, а там переходов может и не быть, и переходить можно везде), но внезапно?

Я к тому, что должен быть вариант затормозить, а не давить без разбору всех, глупый тест.

Значит там либо есть светофор, и 80 км/ч там не будет, либо зёбра, но это в населённых пунктах, там тоже так ехать нельзя.

Давить во всех случаях, кроме группы людей. Там надо в кювет.

Не успевает он затормозить, вот в чём суть теста. Плюс ещё в задницу могут врезаться.

за пределами НП нет ни зебры ни сфетофора, а переходить можно везде

И своих пассажиров угробить? Из-за того что какие-то дятлы полезли на дорогу в неположенном месте? Лучше уж их задавить, сами виноваты.

Если разработчики устраивают такие тупые опросы, ответ однозначен: автомобиль должен самоуничтожаться сразу после схода с конвейера.

Как внезапно? В тумане разве что, да еще чтобы посторонние шумы все звуки перебивали, только вот в таком случае и скорость у водителя должна быть меньше.

Сигналить, моргать фарами и тормозить есс-но, не меняя резко траектории движения

В беспилотном КАМАЗе не будет большого количества людей, да и травмы менее вероятны.
Тут должна включаться обычная арифметика: если в ТС людей меньше, чем есть в группе-препятствии, то надо уничтожать людей в ТС.

заросли на обочине