«Мы будем жить как единое целое, вечно на небесах» (c)

Боюсь, что он покончил бы с собой и без общения с нейронкой. Когда крыша подтекает надо ко врачу идти. Жаль вдова не уследила.

Два месяца общения в сети, в каком-нибудь токсичном месте, и к другим последствиям может привести, когда унесешь не только себя. Выпилился и выпилился.

Иногда даже одной песни группы Beatles достаточно.

Два месяца общения в сети, в каком-нибудь токсичном месте

Например здесь

Ужас какой. Жаль что он так и не понял что это просто тупая говорилка которая будет наитупейшим образом подстраиваться под ожидания входящих данных запросов даже если для этого придётся нести несусветный бред, а видимо воспринял программу как нечто разумное дающее разумные ответы. Хотя, даже если бы и так, какого как грится хера… Эх… беда.

ИИ даже убивать человеков не надо, достаточно с ними поговорить и они сами себя убъют.

Будущее наступило, терминатор уже здесь

Решение суда: приговорить ИИ к пожизненному отключению от сети за непредумышленное убийство.

На фоне этого происшествия в Бельгии задаются вопросом о безопасности нейросетей и чат-ботов и о возможных серьезных недостатках и угрозах, которые могут скрывать подобные передовые технологии.

Вот это вот самое грустное в новости на самом деле. У человека поехала крыша, но виновата, конечно же, технология. Хорошо ещё, что он в GTA не играл, а то бы и игры до кучи объявили виноватыми.

бельгиец покончил с собой после общения с искусственным интеллектом

Звучит как каноничное «зумера ушатала уличная мусорка» :)

Если серьёзно, ощущение, что «там» реально стали ехать головой массово, безо всякого БЛМ-ЛГБТ вообще.

Обычно ИИ зависает после общения со мной. Какие там бельгийцы все нежные.

Жаль что он так и не понял что это просто тупая говорилка которая будет наитупейшим образом подстраиваться под ожидания входящих данных запросов даже если для этого придётся нести несусветный бред, а видимо воспринял программу как нечто разумное дающее разумные ответы.

Ну как бы эту тупую говорилку и пиарят как нечто разумное, ChatGPT догадалась/прикинулась/обманула … . Самые впечатлительные могут себе действительно ноги отстрелить.

как нечто разумное дающее разумные ответы

Да, как оракула из сериала «Чародей. Страна великого дракона». Там оракулом был ИИ/СК, который даже детям раздавал специальности, которые нужно освоить, которые нужны обществу, чтобы не учить одних экономистов или трактаристов.

Какая прелесть. Пойду ещё планетку засру как нибудь

Что говорить тут на ЛОРе некоторые про хпт говорят что у него «интеллект» на уровне среднего студента, мистификация тотальная, это да.

Ну, две извилины крест накрест, да

Два месяца общения в сети, в каком-нибудь токсичном месте, и к другим последствиям может привести

Может было бы неплохо в школах вести практику общения на токсичных сайтах для закалки духа и чтобы не было таких проблем как в заглавном посте.

Может тут дело в том, что и уровень «среднего студента» опустился до уровня «тупой говорилки», подстраивающейся под ожидания и порой несущей несусветный бред? По крайней мере если судить исключительно по общению текстом.

Насчёт среднего, конечно, наверное, перебор. Но таких немало. А вроде живые люди, с настоящим мозгом в голове…

Сейчас тенденция совершенно противоположная. Детей (а вообще уже даже и взрослых) всеми силами стараются оградить от всего, что может оскорбить их тонкие душевные чуйства. Не зря они собираются в группы по интересам, которые шастают по интернету и оффлайну, кропотливо выискивая, чем бы оскорбиться.

Что хорошо в таких мнениях, так это то, что проще подождать немного, чем спорить.

Реальный аргумент - это то, что обучение упёрлось в объем доступных текстовых данных, а transfer learning(1) не работает, поэтому ожидать ничего потрясающего не стоит.

Но и с этим аргументом есть проблема: при увеличении размера сети выше определённого предела transfer learning начинает работать, а уж доступных видео - просто завались. Ну и хватает новых техник, которые не требуют новых данных: внутренний монолог, обучение с самоподкреплением и т.п.

1. то есть в данном случае улучшение показателей на текстовых задачах при дополнительном обучении на нетекстовых данных (изображениях, видео).

Не путай интеллект и знания. Человек может быть умным, но с памятью как у рыбки или наоброт. Не всем везёт получить средние показатели и там и там от природы ( и обучения) вдобавок, мы всё декларируем, формализируем, атоматизируем, языки разговорные, языки программирования, все технологии сейчас черезвычайно многое (и всё с чем работают нейросети) подаётся в той или иной мере формализации, да, даже генерация изображений и звука и подобного, то что железо успешно с этим справляется говорит только о большей эффективности манипуляций с данными по заданным (натренированным нечётким) правилам не более того. Несомненно в нашей биологической сути присутствует тоже самое, только вот оно в нас присутствует как один из механизмов, а не как вся наша суть. Текущие нейросети научили отлично мимикрировать .

А спорить не о чем то что ты науськаешь сеть до такой степени что её будет не отличить от человека и она консолидирует в себе все знания человечества не сделает из неё ИИ.

А ждать, ну подождём. Всё вернётся к прошлому, когда нейросетки использовали с больешй пользой для конкретных узких нечётких задач для которых разработка точного алгоритма слишком затратна если вообще возможна, сортировочка картошечки на линиях транспортировки, помошники диспетчерам предугадывающие опасные ситуации и прочее чисто дрессированные сетки это круто и полезно. А говорилки тоже конечно интересно, но. Ладно переубеждать и спорить тоже не хочу, нет смысла. Что будет то будет

Когда крыша подтекает надо ко врачу идти

А зачем? Может всех всё устраивает.

Не сработает. Я так делал и это помогает только спокойнее относиться к дуракам в такой же среде, а от дураков ИРЛ не поможет.

Все проблемы коммуникации решены ещё в античные времена, вот к ним и надо обращаться, чтобы у других людей не было возможности выносить тебе мозг.

Что же касается ИИ, то пациент в стартовом посте был очевидно настолько духовно беден, что хватило даже этого.

постепенно это увлечение стало навязчивым и вызывало повышенную тревожность. Пьер все больше замыкался в себе,

Разговоры с роботом постепенно приобретали мистический характер

Потёк крышей, короче.

в Бельгии задаются вопросом о безопасности нейросетей и чат-ботов

А роскомнадзорнулся он как? Если повесился, то в Бельгии следует ещё задаться вопросом безопасности верёвок.

ChatGPT продемонстрировал неумение собирать ПК — он предложил установить Core i5-13600K на плату с Socket AM5

Этот тупезень не смог сделать сборку компа... Куда ему советы давать?...

Прикалывает другое: то, как эти новостишки хавает местный пипл. Это ж из разряда «не ходите, дети, в Африку гулять» :) Впрочем, я не удивлен.

Если серьёзно, ощущение, что «там» реально стали ехать головой массово, безо всякого БЛМ-ЛГБТ вообще.

наоборот, намного менее массово, раз каждый такой случай становится инфоповодом

Это так не работает.

Может было бы неплохо в школах вести практику общения на токсичных сайтах для закалки духа и чтобы не было таких проблем как в заглавном посте.

обычно современные школьники сами с этим отлично справляются

но интересно было бы посмотреть на учебный план этого предмета

Не путай интеллект и знания.

Я не путаю. И про «интеллект уровня среднего студента» тоже говорил не я. Я как раз намекаю на причины, почему подобные заявления от других людей проскакивают всё чаще. Возможно, тут не столько заслуга ИИ, сколько тех самых «средних студентов, с которыми сравнивают, а также способов этого самого сравнения.

Через день такие инфоповоды не перебор? Ты же не пойдёшь, например, за маня-обиды 20-летней давности с оружием мстить училкам в школе. Это тупо и бессмысленно.

Неплохо, наравне с ОБЖ и основами финансовой грамотности.

Через день такие инфоповоды не перебор?

И? Раньше о никому неизвестных самоубийцах на весь мир просто не писали.

Ты же не пойдёшь, например, за маня-обиды 20-летней давности с оружием мстить училкам в школе

А кто-то ходит через 20 лет?

Да, всё так, но это как влоб сравнивать силу культуриста и трактора, кто больше поднимает. Или кто быстрее сложит ряд из 1000 чисел, калькулятор или математик. Уж так наша биология устроена что всего по маленьку и на всём экономия, есть конечно люди исключения с абсолютной памятью, вот если такой человек есть при этом его память не избирательно абсолютная при этом он не отсталый по всем остальным аспектам и сравнивать будем машину и человека не в какой то массовой обработке данных то будет всё гораздо скушнее. Но такое себе требовать от людей соотвецтвовать способностям нейросеток, это невозможно, так де невозможно как обогнать пешком автомобиль который может передвигаться априори быстрее любого животного на этой планете.

А ещё из тракторов и калькуляторов следует, что первый кто приниципально откажется от нового ради «всего хорошего», с треском проиграет всем остальным. На дистанции в 100+ лет может и выиграет в итоге, но кому это интересно?

Так он же свихнулся не от ии, а от зеленки. Заинтересовался защитой окружающей среды и за два года окончательно протек. С тем же успехом он мог и на имиджборде с белковыми до самоубийства догнаться.

У него дипломки на уровне среднего студента, но это не фича гпт, это бага нашей системы образования.

Обычно ИИ зависает после общения со мной. Какие там бельгийцы все нежные.

Надо на гпт натравить нашего хвикеда.

А потом гпт будет вместо него постить в толксы.

Практика показывает что да, но (дальше чисто мои мысли) есть некий предел, вся текущая автоматизация помимо того что избавляла людей от труда пока чисто физического и то частично, но вынуждала людей трудиться ещё больше ведь трактор и калькулятор это плоды труда огромного числа инжинеров,физиков,химиков,и так далее вплоть то материаловедов, жестянщиков, токарей, слесарей машины избавив нас от частичного труда породили возникновение гораздо больших трудозатрат, если кратко трактор сделал более эффективным работу только на поле везде в остальном он родил сотни тысяч проблем которые вынужденны решать миллионы человек что-бы этот трактор был и эффективно выполнял свою узкую задачу, суть до текущего момента все высокие технологии и автоматизация лишь косвенно в чатсных слуячаях что-то упрощали они больше создали проблем (в смысле задач) корые люди вынужденны решать на это они тратят и огромные физические и умственные ресурсы тем самым нивелируюя отрицательный эффект от «вкалывают роботы, а не человек», в перспективе если текущие нейросети приведут к тому что для их работы человеку не нужно будет ничего кроме естественного языка и пары уточнений специфических которые нужно будет знать дабы эффективно составлять комманды приведёт к тому что не появится побочного эффекта от технологии как с трактором который упросил физическую работу и сильно напряг всем мозг держа в тонусе и сохраняя баланс. Может случится так что нейросетки благодаря их специфике буду реально выполнять умственную работу за человека так эффективно что спустя поколение/я огромное количество людей просто утратят способность на казалось бы сегодня обычные вещи и это вот ужасно на самом деле.

Банальный пример не про ум, но про навык, рисование, спустя время и если рынок порешает художники как пласт общества исчезнут (лет 100 надо) всё может делать машина, монополизация машиной (её владельцем) целого вида деятельности это кабзда, а вот возродить художественное дело которое для человечества очень важно уже будет катастрофически сложно.

На дистанции в 100+ лет может и выиграет в итоге, но кому это интересно?

Чо буит то буит =) Всё может быть как положительным так и отрицательным, смотря как использовать. На то мы и люди что разумны (ну не все конечно) и не стреляем пушками по воробьям

монополизация машиной (её владельцем) целого вида деятельности это кабзда

Почему кабзда-то сразу? Дорого/неудобно? Не пользуйся машиной, рисуй/играй/пиши по старинке. В отличие от машин при постройке многоэтажки, рисовать/играть/писать человек прекрасно может и в одно лицо. Ну и «я так делаю, потому что я так могу и мне это нравится» тоже никуда не денется.

Человек проиграет в скорости может быть, но когда музыку/картинку оценивали по скорости создания? Это вообще перпендикулярные вещи.

Угу. :(

мистификация тотальная, это да

У меня отец (89 лет, всю трудовую деятельность работал радиоинженером) очень сильно возмущается по поводу термина «искусственный интеллект», считает этот термин сознательным мошенничеством и предлагает вместо него термин «имитация интеллекта».

Я обычно предлагаю ему так сильно не горячиться, мол, это всего лишь образный термин — а сейчас подумал, что не так уж он далёк от истины. Некоторые «неудачные» термины оказываются далеко не безобидными.

До практики дело пока не дошло, но всякие онлайновые «школы цифры», где предостерегают от кормления троллей, в школах уже практикуют. Моего сына на такую уже отправляли, причём аж с 3 класса. Проходили вечерком вместе. :)

Все проблемы коммуникации решены ещё в античные времена

Кого советуешь почитать на эту тему?

Жалко этого несчастного и особенно его близких.

Кстати по «ящику» только что сказали про призыв Илона Маска ограничить нейросети. Интересно это правда или опять «ученый изнасиловал журналиста»?

Может это часть какой-то медиакомпании?

А кто-то ходит через 20 лет?

Через 17 лет. Три года так принципиальны?

https://ru.wikipedia.org/wiki/%D0%9C%D0%B0%D1%81%D1%81%D0%BE%D0%B2%D0%BE%D0%B5_%D1%83%D0%B1%D0%B8%D0%B9%D1%81%D1%82%D0%B2%D0%BE_%D0%B2_%D1%88%D0%BA%D0%BE%D0%BB%D0%B5_%E2%84%96_88

У человека поехала крыша, но виновата, конечно же, технология

Технология создана _исключительно_ для сноса крыши, если что. Других областей применения ии-чата просто не существует.

Сопилот же.