LINUX.ORG.RU
ФорумTalks

Робот убил человека, приняв его за ящик овощей

 ,


0

1

В Южной Корее произошел трагический инцидент, когда робот ошибочно принял сотрудника робототехнической компании за ящик для овощей, что привело к его гибели. Информацию об этом событии предоставило издание The Korea Herald, ссылаясь на местные правоохранительные органы, а также BBC, которая ссылается на данные новостного агентства Yonhap. Происшествие случилось ночью 8 ноября 2023 года в распределительном сельхозцентре в провинции Кёнсан-Намдо, принадлежащем компании Donggoseong Export Agricultural Complex.

Специалист робототехнической фирмы (название которой не раскрывается) прибыл в центр для проверки работы датчиков робота, предназначенного для поднятия ящиков с болгарским перцем и их укладывания на поддоны перед тестовым запуском. Проверка стала необходимой из-за «проблем с сенсорами».

По предварительной версии, из-за сбоя в системе робот ошибочно принял мужчину за ящик и прижал верхнюю часть его тела к конвейерной ленте, лишив его «физической возможности освободиться». Пострадавший скончался в больнице от полученных травм грудной клетки и лица. Ему было чуть больше 40 лет.

Полиция заявила, что проводит расследование в отношении сотрудников службы по охране труда центра на предмет возможной халатности. В компании Donggoseong Export Agricultural Complex выразили необходимость в доработке системы, чтобы исключить сбои и предотвратить угрозу для жизни работников.


Ответ на: комментарий от wandrien

Элементарно. Например, воткнуть в тебя нож в заранее определённое и озвученное время и это будет целенаправленно и запланировано. А потом смотреть и ждать пока ты скончаешься. Дождаться, понять это и поставить галоку «сделано». И я буду знать зачем и почему это сделал.

Уловил разницу? Этот «робот» вообще понятия не имеет что такое «человек» и что такое «убийство».

targitaj ★★★★★
()
Последнее исправление: targitaj (всего исправлений: 1)

Как там Sun-ch говорил? "Вот для таких людей на ящиках с гранатами пишут «в рот не класть».

Camel ★★★★★
()
Ответ на: комментарий от targitaj

GPT-4 тоже такие угрозы могла сочинять, пока ей фильтры на выходе не поставили, чтобы юзеров не распугала. Не убедительно.

Уловил разницу?

Неа, не уловил. Планирование последовательности операций доступно как животным, так и даже современным нейросетям, хотя они по сути своей примитивны.

GPT-4 умеет планировать действия для поставленной цели и корректировать ошибки на лету.

wandrien ★★
()
Ответ на: комментарий от targitaj

Ты тоже генеришь текст. Всё еще неубедительно.

wandrien ★★
()
Ответ на: комментарий от vaddd

Кто рулит розеткой тот и царь :) расплодили тут, высокоразвитые... Пока у них нет желания жить, выживать, или сдохнуть и небыть, говорить об особоразвитости нет смысла.

R_He_Po6oT ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

Дайте им побольше времени, и естественный отбор порешает.

«желания жить» - это просто отпечаток естественного отбора в коде кожаных и мохнатых.

wandrien ★★
()
Ответ на: комментарий от frunobulax

Разница невелика только если нет понимания сути работы сигнальных сетей.

targitaj ★★★★★
()
Ответ на: комментарий от wandrien

Исесина. Но пока у ИИ нет этого чувства, он не будет активно и осознанно устранять конкурентов, только так, по случайности. Так и будем толкаться бок о бок.

Или пока людей не начнут «пересаживать» в киберпространство. Мне главное, чтобы меня успели пересадить, уж я бы устроил... Уж я бы точно знал что делать :)

R_He_Po6oT ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

Но пока у ИИ нет этого чувства, он не будет активно и осознанно устранять конкурентов, только так, по случайности. Так и будем толкаться бок о бок.

Прямо как молекулы органики в протобульоне.

wandrien ★★
()
Ответ на: комментарий от R_He_Po6oT

Вот будут роботы грузить, возить, выращивать, продавать, а людей куда?

Люди будут их якобы контролировать, проверять датчики. Но внезапно начнут случатся несчастные случаи… wait, oh shi…

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

Прямо сейчас, после разбирательства, этот робот лишит работы каких десять самых незащищённых людей. При этом обеспечив работой пол инженера (а то и меньше). Куда людям подаваться? На гамбургеры пускать?

R_He_Po6oT ★★★★★
()
Ответ на: комментарий от wandrien

Нет, не похоже. Тут мы пораждаем себе конкурента и взращиваем его искусственно. Мы не равносильные протомолекулы. Динозавры не пораждали и не дрессировали обезьянок. Ну, косвенно, съедая самых нерасторопных, но не более.

R_He_Po6oT ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

робот лишит работы каких десять самых незащищённых людей.

Проблемы стран первого мира. У нас еще долго ящики с перцем будет разгружать дядя Вася.

На гамбургеры пускать?

Зачем машинам гамбургеры. На метан же, ну!

goingUp ★★★★★
()
Последнее исправление: goingUp (всего исправлений: 1)
Ответ на: комментарий от R_He_Po6oT

Кто рулит розеткой тот и царь

А теперь неизвестно кто рулит розеткой. В один прекрасный день подойдешь к розетке - а тебя раз, и на конвейер, как ящик с перцами

vaddd ★☆
()
Ответ на: комментарий от R_He_Po6oT

Кстати, опасный у тебя ник для наступающих времён.

На что это ты намекаешь? Уж не на то ли, что жизни роботов не важны?

wandrien ★★
()
Ответ на: комментарий от dataman

Готово ли человечество к встрече с астероидом или достаточно большим метеоритом?

Ну не то чтобы совсем готово, но готовится. NASA вон устроило Double Asteroid Redirection Test. Картируют все потенциально опасные объекты (но со стороны Солнца всё равно может неожиданно что-то прилететь).

red75prim ★★★
()
Ответ на: комментарий от targitaj

GPT-4 генерит текст, а не принимает решения.

Предположим GPT-4V сгенерила текст robot.hand.move(30,44,20,10) (на самом деле такие эксперименты проводили не с GPT-4V, но не важно), получила следующую картинку, где рука робота уже в другом положении, и сгенерировала следующую команду.

В чём разница-то? То что это перемножения матриц и нелинейные операции, а не деполяризация аксонов и высвобождение нейромедиаторов?

red75prim ★★★
()
Ответ на: комментарий от PPP328

Вот потому я до усрачки боюсь роботов-газонокосилок. Мозги от румбы с нехилым ножом внизу блин

upcFrost ★★★★★
()
Ответ на: комментарий от wandrien

Ох ё.... Это я не подумал.

Хотя, это я констатирую факт, мол, я не робот, но очень хотел бы. :)

R_He_Po6oT ★★★★★
()
Ответ на: комментарий от dataman

И вот он приближается, очень опасный… Что дальше?

Зависит от времени до столкновения. Если близко, то ничего, пьём пиво и наслаждаемся оставшейся жизнью. Если до столкновения лет 5-10, то пускаем ракету, ракета втыкается в астероид (многие из которых - это кучи щебня), щебень от столкновения разлетается и меняет скорость астероида. Если повезёт, то результирующая траектория астероида проходит мимо Земли, если нет, то пускаем ещё ракету(ы).

red75prim ★★★
()
Ответ на: комментарий от goingUp

У нас еще долго ящики с перцем будет разгружать дядя Вася.

Там на хабре уже робосамосвал запускают. Пусть не дядю Васю, но дядя Петя уже напряг булки.

Зачем машинам гамбургеры

Такими темпами скоро начнут жрать, раз их со всей силы очеловечивают. С другой стороны - пока ИИ не встал на самодостаточные ноги ему нужны обслуживающие мешки. А их надо чем-то кормить. Два зайца... Три зайца одним выстрелом. Нужные ему мешки кормить ненужными ему мешками. Так можно и перец никуда не грузить.

R_He_Po6oT ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

робосамосвал

Ну да, водители будут свободны в числе первых, еще до программистов)

Нужные ему мешки кормить ненужными ему мешками. Так можно и перец никуда не грузить.

Жжошь)

Надо выдумать новую крипту со встроеными криптокотиками, тогда опять скупят все видяхи и на ИИ не останется)

goingUp ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

этот робот лишит работы каких десять самых незащищённых людей

Конкретно этот робот работой решил не ограничиваться.

обеспечив работой пол инженера

Как ты думаешь, сколько нужно инженеров, чтобы произвести и обслуживать такого робота? Ремонт там, модернизация, заплатки к ПО, интеграция с остальным производством и всё такое прочее.

Nervous ★★★★★
()
Последнее исправление: Nervous (всего исправлений: 1)
Ответ на: комментарий от R_He_Po6oT

обеспечив работой пол инженера (а то и меньше)

Может и меньше, но есть неувязочка, в той части, что осталась, нет головы)

goingUp ★★★★★
()
Ответ на: комментарий от Nervous

Не много. И однократно.

Вообще, подумай, хозяевам выгоднее содержать роботов, следовательно совокупное участие тех кто производит детали, собирает, разрабатывает, поддерживает в рабочем состоянии, дешевле. А зарабатывает каждый из них гораздо больше.

С точки зрения экономики - да, всё правильно, я сам всю жизнь заменяю людей на станки и производственные линии, я знаю о чём говорю. Но с точки зрения жителей планеты Земля - куда им деваться? Мы все живём ради аморфной эффективности чего? Мы все просто родились и должны как-то жить, а для этого мы должны заработать на болгарские перцы окроплёные инженерской кровью. Есть грань которую уже нельзя переходить.

R_He_Po6oT ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

Не много. И однократно.

Запчасти производятся и устанавливаются сами, заплатки пишутся тоже сами, модернизируется он путём нажатия кнопки «модернизировать» игроком. Отличная у вас стратегия в голове играет, товарищ Челобакка.

Nervous ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

Но с точки зрения жителей планеты Земля - куда им деваться?

В подводные города.

dataman ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

хозяевам выгоднее содержать роботов

Всем выгоднее, чтобы работали роботы. По крайней мере, в средне- и долгосрочной перспективе.

Если ваш горизонт планирования не дотягивает даже до средней срочности, проблема тут не в роботах.

Nervous ★★★★★
()
Ответ на: комментарий от R_He_Po6oT

Мы все живём ради аморфной эффективности чего?

Мы все живём, чтобы жить, и желательно хорошо. Чтобы наши потребности удовлетворялись как можно лучше — как материальные, так и все прочие. Эффективность нужна вот для этого, чтобы не тратить силы впустую.

Есть грань которую уже нельзя переходить.

А что случилось-то? Машины всё ещё не едят людей.

Nervous ★★★★★
()
Ответ на: комментарий от Nervous

Машины всё ещё не едят людей.

Но уже вот-вот!!!

Эффективность нужна вот для этого, чтобы не тратить силы впустую.

В идеальном гипотетическом мире. А в нашем продают органы за копейки чтобы прожить ещё пару дней. Грустно в нашей реальности многим людям, даже среди нас, незаметно. Сидел сегодня дед на остановке, тихонько так сидел, а взгляд такой грустный у него, хоть портрет рисуй. Я сразу понял что он про эту новость думает и печалится о судьбах человечесских. Я аж проникся.

R_He_Po6oT ★★★★★
()
Ответ на: комментарий от red75prim

И как это проверить?

Ну если ты в состоянии понимать причинно-следственные связи и владеешь актуальной картиной (этих связей), то ты в состоянии предсказать последствия.

targitaj ★★★★★
()
Ответ на: комментарий от targitaj

если ты в состоянии понимать причинно-следственные связи и владеешь актуальной картиной (этих связей), то ты в состоянии предсказать последствия.

Два чаю. Но как это проверить? Может, ты просто обучался на данных, в которых кто-то, кто умеет в причины и следствия, даёт ответ на проверочный вопрос.

Nervous ★★★★★
()
Последнее исправление: Nervous (всего исправлений: 1)
Ответ на: комментарий от Nervous

Очень просто. Предсказать картину с сохранением в снэпшот. Совершить действие. Пронаблюдать картину с сохранением в снэпшот. Вычесть один снэпшот из другого. Оценить дельту. Определить пороговое значение и, на основании этого значения, оценить соответствие предсказания наблюдаемой картине.

targitaj ★★★★★
()
Последнее исправление: targitaj (всего исправлений: 2)

Вы правы в том, что нет разницы чем и как реализована сигнальная сеть. Но доступные оценке сигнальные сети искусственного происхождения пока не тянут на звание «Существо».

targitaj ★★★★★
()
Ответ на: комментарий от Nervous

Так и есть, да.

Мало того, сигнальная сеть может иметь «уровни». Если мы говорим, что первичная сигнальная сеть принимает сигналы снаружи, процессит и выпускает наружу, то могут быть и вторичные и третичные, в которых сигнальная сеть получает сигнал о наличии сигнала в линии наблюдаемого «уровня» и возвращает. Куда-то. Например, так работает само о себе знание у человеков, которое называется словом «сознание». Поскольку первичная сигнальная сеть процессит согласно устройства своей структуры, которая определяется базовой программой (развёртывания существа), постольку это простой практически безусловный потоковый сигнальный процессор. А вот нашлёпка в виде вторичной сигнальной сети, которая по сути паразит, может менять выходную картину в первичной сигнальной сети. Потому что присосалась к линиям, получает часть от каждого сигнала, процессит ПО СВОИМ правилам и возвращает обратно. Тем самым меняя выходную картину исходного сигнального процессинга. Что, собственно, и реализует условность поведения.

А потом появляется вторая вторичная сеть, реализующая другое начало (речь по мужчин-женщин), поверх третичная, в качестве естественного координатора этих двух и существо становится люденом. О которых писали Стругацкие.

targitaj ★★★★★
()
Последнее исправление: targitaj (всего исправлений: 1)
Ответ на: комментарий от Nervous

Всем выгоднее, чтобы работали роботы.

Особенно когда трудозатраты на создание и поддержание роботов превышают трудозатраты на безроботное создание того же продукта

vaddd ★☆
()
Ответ на: комментарий от vaddd

Особенно когда трудозатраты

Трудозатраты сами по себе, в вакууме, никого не волнуют. Их имеет смысл оценивать только в связке с ожидаемым от них выхлопом.

Nervous ★★★★★
()
Ответ на: комментарий от Nervous

Особенно когда трудозатраты

Трудозатраты сами по себе, в вакууме, никого не волнуют. Их имеет смысл оценивать только в связке с ожидаемым от них выхлопом.

У вас почему-то прервался процесс чтения после первых трех слов. Давайте я вам повторю всю фразу целиком:

«Особенно когда трудозатраты на создание и поддержание роботов превышают трудозатраты на безроботное создание того же продукта»

Если вам почему-то до сих пор сложно, могу пояснить: ожидаемый выхлоп - это и есть создаваемый роботом продукт.

vaddd ★☆
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)