LINUX.ORG.RU

Взлом искуственного интеллекта?

 , ,


1

2

Как известно, в машинном обучении вывод Y зависит от фидбека, то есть предыдущих входов X, и от текущего X. Но не делает ли это его уязвимым? Что если заддосить входы ИИ, и, тем самым, настроить его извне? Например, выпускается новый сервер капчи («Выберите фото гидранта»), направляем на него DDOS атаку, выбирающую фото котеек, и ломаем ИИ. Интересно и обратное, предусмотрена ли защита от подобного?


задача без решения

ИИ как твой мозг – если тебя ДДОСить какой-то инфой, то ты или поверишь в это или нет. Так и ИИ или поведется или нет или #RANDOMRESULT

futurama ★★★★★
()
Ответ на: комментарий от futurama

в «рабочем режиме» прикладного ИИ, к примеру у того же сервера капчи, обучение отключено. т.е. он не меняет «обученные» коэффициенты сети в состоянии «работа».

ну а поломок обучаемых в работе ИИ навалом. один из первых красивых лулзов помнится был у микрософт, которые допустили ИИ в один из чатов.
интеллектуальный чат-бот быстренько научился ругаться, ненавидеть негров и что-то там еще общественно непотребное. за что его и отключили :)
обучили его этому нахлынувшие интернет-пользователи.

а если еще вглубь веков глянуть, то поломку ИИ от неправильного обучения описал еще Станислав Лем, в рассказе «Ананке» еще в далеком 1971 году. вот сумел же блин предвидеть :)

pfg ★★★★★
()
Ответ на: комментарий от Jameson

ну, блин, искусственный гомно интеллект не идет ни в какое сравнение с тем, которым обладает лысая обезьяна, он на эволюционной шкале находится где-то на уровне мухи-дрозофилы

tz4678_2
()

Разве его уже не «заDDOS’или»? Мне казалось что он требует то что видит большинство а не тот что там реально изображено, во всяком случае мне так кажется.

ex-kiev
()

Tesla Autopilot thinks this Burger King sign is a stop sign!

fluorite ★★★★★
()

Предмета обсуждения нет. ИИ ещё не изобретён. То что сегодня называют ИИ обычно оказывается лесенкой из if, написанной индусами.

ox55ff ★★★★★
()
Ответ на: комментарий от ox55ff

Да тут и с естественным-то не всё гладко, если по ЛОРу судить.

fluorite ★★★★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.