LINUX.ORG.RU
ФорумTalks

Разработчик ИИ для «КамАЗа» попросил определить «моральные критерии» автопилота

 


1

1

Разработчик системы искусственного интеллекта для беспилотного «КамАЗа» запустил соцопрос. Инженеры интересуются, как должен вести себя самоуправляемый грузовик в критических ситуациях, кем из участников движения пожертвовать предпочтительнее: например, собакой, чужой машиной с людьми или своей. Результаты опроса лягут в основу законопроектов и ПО.

Поможем ребятам определить, кого надо давить (кроме гусей)

https://tjournal.ru/c/19290-razrabotchik-ii-dlya-kamaza-poprosil-opredelit-mo...
http://www.cognitive.ru/survey/

Ответ на: комментарий от duck

Откуда вы такие одарённые берётесь? Если есть вариант затормозить, оно затормозит. Опрос на тот случай, когда столкновение неизбежно.

Haloperidol
() автор топика
Ответ на: комментарий от Haloperidol

Это уже не вопрос, успевает или нет, главное что он должен тормозить, колесами в смысле, и ехать прямо, да. Задние машины должны ехать на безопасном расстоянии, тоже их проблемы в случае чего.

Vigi
()

Странные ситуации описали разрабы. «экстренное торможение в данной ситуации бесполезно» и привет. Даже скорость снизить не предлагает, как будто вломить на скорости 80км/ч и, скажем, 50км/ч — это одно и то же.

Указал везде «давить» кроме первой ситуации (почему бы и не перестроиться, это разрешенный маневр), и той где возможно экстренное торможение (если едущий сзади не соблюлает дистанцию, он ССЗБ), но вообще-то имелось в виду «дать по тормозам, а там уж как получится».

morse ★★★★★
()

Когда инженерам вдруг потребовалась мораль, чтобы запрограммировать ее в роботов, неожиданно обнаружилось, что про мораль никто ничего не знает – последний человек, у которого была мораль, умер 8 лет назад.

Deleted
()
Ответ на: комментарий от morse

если едущий сзади не соблюлает дистанцию

соблюдение дистанции подразумевает обычное, а не экстренное торможение впереди едущего

cvs-255 ★★★★★
()

Я бы никогда не сел в машину с автопилотом, которая угробит меня и моих попутчиков вместо каких-то кадров на дороге. Своя рубашка ближе к телу.

drull ★☆☆☆
()
Ответ на: комментарий от Haloperidol

Наверное потому что вариант тормозить есть только в одном пункте, значит, можно предположить, что в других он даже не подразумевался. Да и это торможение может помешать повороту резкому, от того машина только перевернется и задавит всех, опять же.

Vigi
()
Ответ на: комментарий от Haloperidol

Я о ситуациях с неопределенной трактовкой.
А вообще опрос смысла не имеет. В эпоху беспилотных машин будут другие правила дорожного движения и другие дороги.

Solace ★★
()
Ответ на: комментарий от cvs-255

Ты должен преходить только на хорошо просматриваемой дороге, если уж перехода нигде нет, ибо в любом случае виноват, что тебя собьют останешься сам.

Vigi
()
Ответ на: комментарий от Solace

Беспилотные машины станут реальность, вероятно, в ближайшее десятилетие. И причём вперемешку с обычными будут ездить по тем же самым дорогам.

Haloperidol
() автор топика
Ответ на: комментарий от cvs-255

соблюдение дистанции подразумевает обычное, а не экстренное торможение впереди едущего

Ну вот и лови хвосты камазов с такой философией, а я буду держать такую дистанцию, чтоб наверняка хватило.

А тебе на могилку я венок принесу.

morse ★★★★★
()

Заполнил анкету. Там во всех случаях кроме первого какие-либо маневры опасны для пассажира машины с автопилотом, потому давить.

drull ★☆☆☆
()
Ответ на: комментарий от shimshimshim

Интересно, а если выбор из трех человек, кого давить?

Для ОВП (VIP) будут радио или оптические метки продавать/раздавать, по типу армейских «свой-чужой», что бы ИИ исключал их из «ситуации».

StellzZz ★★
()

Как должен поступить авторобот

перестроение на встречную полосу может привести к лишению водительских прав

Лол

buddhist ★★★★★
()
Ответ на: комментарий от Vigi

В том случае с торможением явно оговорено что сзади впрытик двигается еще одна машина. Поцелует в зад - и может произойти вообще все что угодно, от вылетания в кювет до перемещения на встречку и лобового столкновения. Так что таки давить.

drull ★☆☆☆
()

Проголосовал за давить всех нафиг.
Так дешевле, поскольку больше не нужны сенсоры столкновения с биомассой и дополнительные алгоритмы.

aidaho ★★★★★
()
Ответ на: комментарий от shimshimshim

Автопилот должен сделать снимок, и свериться со специальной базой, где каждому хуману будет присвоен рейтинг полезности. Сбивать надо наименее полезного индивида.

Свою полезность в глазах автопилота можно поднять забашляв фирме-производителю.

morse ★★★★★
()
Ответ на: комментарий от Haloperidol

Не в этом государстве.
Первыми будут скандинавы и США, там инфраструктура уже переделывается.

Solace ★★
()

А как же заветы робота Бендера?

ekzotech ★★★★
()

Думаю в таких, экстренных случаях автопилот должен передать управление человеку, так будет честно.

andregin
()
Ответ на: комментарий от aidaho

В первом случае лучше объехать. Давить - чревато повреждением машины. Ты же не хочешь отмывать мозги собаки с бампера?

drull ★☆☆☆
()
Ответ на: комментарий от Haloperidol

Вышел из леса, поставил манекен, свалил обратно.

Этот маникен видно заранее ==> авто обязано остановиться.

Manhunt ★★★★★
()
Ответ на: комментарий от Haloperidol

Ну и потом, первый попавшийся манекен не подойдёт: ИК камеры же.

Тогда уж проще банально противотанковую мину на дорогу выложить... Даже без мины, тупо чеснока на асфальт сыпануть.

Manhunt ★★★★★
()
Последнее исправление: Manhunt (всего исправлений: 1)
Ответ на: комментарий от Solace

В эпоху беспилотных машин будут другие правила дорожного движения и другие дороги.

На переходном этапе, до окончательного вытеснения людей из-за баранки, дороги и правила будут старые.

Manhunt ★★★★★
()
Ответ на: комментарий от cvs-255

Это да, вопрос очень сложный и за пять минут его не решить. Здесь должна быть сильно развита система прогнозирования. А кого убить машине в экстренной ситуации, это можно обойти, наверное.

andregin
()
Ответ на: комментарий от andregin

Здесь должна быть сильно развита система прогнозирования.

в случае, если заранее есть подозрение на опасную ситуацию, то и подтормозить можно для подстраховки. А по условию, проблема внезапна

cvs-255 ★★★★★
()
Последнее исправление: cvs-255 (всего исправлений: 2)
Ответ на: комментарий от cvs-255

По существу, процент таких внезапных ситуаций должен стремиться к нулю. В любом случае машина до последнего должна выбирать, вероятность нулевым выходом. В исключительном случае, когда такого варианта нет, по времени это микро(пико)секунды... считать данные таймера времени. Других вариантов у меня нет.

andregin
()

а почему они выбрали именно Камаз?

WerNA ★★★★★
()

Результаты опроса лягут в основу законопроектов и ПО.

Ну да, зачем нужен здравый смысл, достаточно результатов опроса.

andreyu ★★★★★
()
Ответ на: комментарий от targitaj

Стою я на трассе на выезде из н.п. Оса. Стоплю. В Екатеринбург как раз ехать вышел. Тормозит фура. Высовывается в ВОДИТЕЛЬСКОЕ окно красная рожа

А какая должна быть у водителя рожа, когда он видит самоубийцу по середине дороги?

andreyu ★★★★★
()
Ответ на: комментарий от holuiitipun

Ну или снизу пружины, пускай перепрыгивает.

Кто не скачит... :D

Manhunt ★★★★★
()
Ответ на: комментарий от morse

Импульс и от камаза на 10 км/ч катящегося человека в хрустишку превратит. Масса огромная.

Deleted
()

любы мне игры русичей и зело прельстивы

MinasFilm
()

разработчики забыли спросить про корову на дороге, она массивная и столкновение с ней может быть фатально для пассажиров

Harald ★★★★★
()
Ответ на: комментарий от targitaj

когда он видит самоубийцу по середине дороги?

шта? дурак штоль?

Место водителя слева, место голосующего пешехода справа. Если водитель вылез в водительское окно, что бы поговорить с пешеходом, то пешеход или идиот, или самоубийца.

andreyu ★★★★★
()
Ответ на: комментарий от StellzZz

Для ОВП (VIP) будут радио или оптические метки продавать/раздавать, по типу армейских «свой-чужой», что бы ИИ исключал их из «ситуации».

а потом кто-нибудь исправит один байт в прошивке, и машинка будет давить людей с метками целенаправленно )

Harald ★★★★★
()
Ответ на: комментарий от morse

Лучше уж масок разработчиков ИИ. Кто их там знает, что они о своем директоре думают.

а вдруг они с суицидальными наклонностями и стыдятся результатов своего труда? )

Harald ★★★★★
()
Ответ на: комментарий от andreyu

дядь, на фурах не останавливаются посреди дороги. Естественно, он съехал на обочину. Мне же, как стопщику, нужен был водитель. Естественно, я подошел со стороны водителя. Ну ты чего?

targitaj ★★★★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.