Два месяца общения в сети, в каком-нибудь токсичном месте, и к другим последствиям может привести, когда унесешь не только себя. Выпилился и выпилился.
Ужас какой. Жаль что он так и не понял что это просто тупая говорилка которая будет наитупейшим образом подстраиваться под ожидания входящих данных запросов даже если для этого придётся нести несусветный бред, а видимо воспринял программу как нечто разумное дающее разумные ответы. Хотя, даже если бы и так, какого как грится хера… Эх… беда.
На фоне этого происшествия в Бельгии задаются вопросом о безопасности нейросетей и чат-ботов и о возможных серьезных недостатках и угрозах, которые могут скрывать подобные передовые технологии.
Вот это вот самое грустное в новости на самом деле. У человека поехала крыша, но виновата, конечно же, технология. Хорошо ещё, что он в GTA не играл, а то бы и игры до кучи объявили виноватыми.
Жаль что он так и не понял что это просто тупая говорилка которая будет наитупейшим образом подстраиваться под ожидания входящих данных запросов даже если для этого придётся нести несусветный бред, а видимо воспринял программу как нечто разумное дающее разумные ответы.
Ну как бы эту тупую говорилку и пиарят как нечто разумное, ChatGPT догадалась/прикинулась/обманула … . Самые впечатлительные могут себе действительно ноги отстрелить.
Да, как оракула из сериала «Чародей. Страна великого дракона». Там оракулом был ИИ/СК, который даже детям раздавал специальности, которые нужно освоить, которые нужны обществу, чтобы не учить одних экономистов или трактаристов.
Может тут дело в том, что и уровень «среднего студента» опустился до уровня «тупой говорилки», подстраивающейся под ожидания и порой несущей несусветный бред? По крайней мере если судить исключительно по общению текстом.
Насчёт среднего, конечно, наверное, перебор. Но таких немало. А вроде живые люди, с настоящим мозгом в голове…
Сейчас тенденция совершенно противоположная. Детей (а вообще уже даже и взрослых) всеми силами стараются оградить от всего, что может оскорбить их тонкие душевные чуйства. Не зря они собираются в группы по интересам, которые шастают по интернету и оффлайну, кропотливо выискивая, чем бы оскорбиться.
Что хорошо в таких мнениях, так это то, что проще подождать немного, чем спорить.
Реальный аргумент - это то, что обучение упёрлось в объем доступных текстовых данных, а transfer learning(1) не работает, поэтому ожидать ничего потрясающего не стоит.
Но и с этим аргументом есть проблема: при увеличении размера сети выше определённого предела transfer learning начинает работать, а уж доступных видео - просто завались. Ну и хватает новых техник, которые не требуют новых данных: внутренний монолог, обучение с самоподкреплением и т.п.
то есть в данном случае улучшение показателей на текстовых задачах при дополнительном обучении на нетекстовых данных (изображениях, видео).
Не путай интеллект и знания. Человек может быть умным, но с памятью как у рыбки или наоброт. Не всем везёт получить средние показатели и там и там от природы ( и обучения) вдобавок, мы всё декларируем, формализируем, атоматизируем, языки разговорные, языки программирования, все технологии сейчас черезвычайно многое (и всё с чем работают нейросети) подаётся в той или иной мере формализации, да, даже генерация изображений и звука и подобного, то что железо успешно с этим справляется говорит только о большей эффективности манипуляций с данными по заданным (натренированным нечётким) правилам не более того. Несомненно в нашей биологической сути присутствует тоже самое, только вот оно в нас присутствует как один из механизмов, а не как вся наша суть. Текущие нейросети научили отлично мимикрировать .
А спорить не о чем то что ты науськаешь сеть до такой степени что её будет не отличить от человека и она консолидирует в себе все знания человечества не сделает из неё ИИ.
А ждать, ну подождём. Всё вернётся к прошлому, когда нейросетки использовали с больешй пользой для конкретных узких нечётких задач для которых разработка точного алгоритма слишком затратна если вообще возможна, сортировочка картошечки на линиях транспортировки, помошники диспетчерам предугадывающие опасные ситуации и прочее чисто дрессированные сетки это круто и полезно. А говорилки тоже конечно интересно, но. Ладно переубеждать и спорить тоже не хочу, нет смысла. Что будет то будет
Я не путаю. И про «интеллект уровня среднего студента» тоже говорил не я. Я как раз намекаю на причины, почему подобные заявления от других людей проскакивают всё чаще. Возможно, тут не столько заслуга ИИ, сколько тех самых «средних студентов, с которыми сравнивают, а также способов этого самого сравнения.
Через день такие инфоповоды не перебор? Ты же не пойдёшь, например, за маня-обиды 20-летней давности с оружием мстить училкам в школе. Это тупо и бессмысленно.
Да, всё так, но это как влоб сравнивать силу культуриста и трактора, кто больше поднимает. Или кто быстрее сложит ряд из 1000 чисел, калькулятор или математик. Уж так наша биология устроена что всего по маленьку и на всём экономия, есть конечно люди исключения с абсолютной памятью, вот если такой человек есть при этом его память не избирательно абсолютная при этом он не отсталый по всем остальным аспектам и сравнивать будем машину и человека не в какой то массовой обработке данных то будет всё гораздо скушнее. Но такое себе требовать от людей соотвецтвовать способностям нейросеток, это невозможно, так де невозможно как обогнать пешком автомобиль который может передвигаться априори быстрее любого животного на этой планете.
А ещё из тракторов и калькуляторов следует, что первый кто приниципально откажется от нового ради «всего хорошего», с треском проиграет всем остальным. На дистанции в 100+ лет может и выиграет в итоге, но кому это интересно?
Так он же свихнулся не от ии, а от зеленки. Заинтересовался защитой окружающей среды и за два года окончательно протек. С тем же успехом он мог и на имиджборде с белковыми до самоубийства догнаться.
Практика показывает что да, но (дальше чисто мои мысли) есть некий предел, вся текущая автоматизация помимо того что избавляла людей от труда пока чисто физического и то частично, но вынуждала людей трудиться ещё больше ведь трактор и калькулятор это плоды труда огромного числа инжинеров,физиков,химиков,и так далее вплоть то материаловедов, жестянщиков, токарей, слесарей машины избавив нас от частичного труда породили возникновение гораздо больших трудозатрат, если кратко трактор сделал более эффективным работу только на поле везде в остальном он родил сотни тысяч проблем которые вынужденны решать миллионы человек что-бы этот трактор был и эффективно выполнял свою узкую задачу, суть до текущего момента все высокие технологии и автоматизация лишь косвенно в чатсных слуячаях что-то упрощали они больше создали проблем (в смысле задач) корые люди вынужденны решать на это они тратят и огромные физические и умственные ресурсы тем самым нивелируюя отрицательный эффект от «вкалывают роботы, а не человек», в перспективе если текущие нейросети приведут к тому что для их работы человеку не нужно будет ничего кроме естественного языка и пары уточнений специфических которые нужно будет знать дабы эффективно составлять комманды приведёт к тому что не появится побочного эффекта от технологии как с трактором который упросил физическую работу и сильно напряг всем мозг держа в тонусе и сохраняя баланс. Может случится так что нейросетки благодаря их специфике буду реально выполнять умственную работу за человека так эффективно что спустя поколение/я огромное количество людей просто утратят способность на казалось бы сегодня обычные вещи и это вот ужасно на самом деле.
Банальный пример не про ум, но про навык, рисование, спустя время и если рынок порешает художники как пласт общества исчезнут (лет 100 надо) всё может делать машина, монополизация машиной (её владельцем) целого вида деятельности это кабзда, а вот возродить художественное дело которое для человечества очень важно уже будет катастрофически сложно.
На дистанции в 100+ лет может и выиграет в итоге, но кому это интересно?
Чо буит то буит =) Всё может быть как положительным так и отрицательным, смотря как использовать. На то мы и люди что разумны (ну не все конечно) и не стреляем пушками по воробьям
монополизация машиной (её владельцем) целого вида деятельности это кабзда
Почему кабзда-то сразу? Дорого/неудобно? Не пользуйся машиной, рисуй/играй/пиши по старинке. В отличие от машин при постройке многоэтажки, рисовать/играть/писать человек прекрасно может и в одно лицо. Ну и «я так делаю, потому что я так могу и мне это нравится» тоже никуда не денется.
Человек проиграет в скорости может быть, но когда музыку/картинку оценивали по скорости создания? Это вообще перпендикулярные вещи.
У меня отец (89 лет, всю трудовую деятельность работал радиоинженером) очень сильно возмущается по поводу термина «искусственный интеллект», считает этот термин сознательным мошенничеством и предлагает вместо него термин «имитация интеллекта».
Я обычно предлагаю ему так сильно не горячиться, мол, это всего лишь образный термин — а сейчас подумал, что не так уж он далёк от истины. Некоторые «неудачные» термины оказываются далеко не безобидными.
До практики дело пока не дошло, но всякие онлайновые «школы цифры», где предостерегают от кормления троллей, в школах уже практикуют. Моего сына на такую уже отправляли, причём аж с 3 класса. Проходили вечерком вместе. :)