ИИ с открытым исходным кодом крайне опасен

Какое неуважение.

Я думаю, что без подробностей здесь это неуважение к аудитории.

Ещё и от темы отписался? Язабан!

Это гостевая статья. Высказанные здесь мнения принадлежат исключительно автору и не отражают позицию IEEE Spectrum или IEEE.

Ничего не думаю. Пока что этот ИИ совершенно бестолковый.

Сабж. Что думаете об этом?

О чём? О предложенных «регуляциях» по ссылке? Думаю, что это идиотизм. Страна, которая введёт их, просто сделает себе хуже. Ведь остальные будут иметь доступ к нерегулируемому пулу. И даже внутри страны «злоумышленики» всё равно получат доступ к любым моделям, которые захотят — все знают, что любые блокировки легко обходятся. При этом обычные люди будут ограничены сильнее, чем без этих регуляций. Короче, выстрел себе в ногу.

А если реально про САБЖ, то ничего не думаю. Это очень общее и голословное утверждение, требующее если не доказательств, то по крайней мере пояснений.

P.S. И этому не место в General. Надо было в /dev/null толксах хотя бы.

Очередное гет зе фактс?

Чтобы думать, нужен естественный интеллект. А у меня его нет.

Я всегда от тем отписываюсь. Не хочу, чтобы мне ленту оповещениями забивало.

Добавил подробностей.

О том опасен ли искусственный интеллект, как его малюют. У меня есть свое мнение на этот счет, но интересно узнать мнение других людей.

Пройдемся по порядку по рискам:

You could ask them to design a more deadly coronavirus

А что, оригинальная версия короны была задизайнена сапиенсом? В любом случае, думаю, он обосрётся, в лучшем случае выдаст какие-то рекомендации и направления работы, а вся сложность в реализации.

provide instructions for making a bomb

это уже было с обычным инетом. Силовики начнут просить хозяев хостинга удалить контент, он уйдет во всякие даркнеты, будет просто дарйкнетовская версия ИИ.

make naked pictures of your favorite actor

ой, какая проблема! рисованные сиськи!

or write a series of inflammatory text messages designed to make voters in swing states more angry about immigration

Как будто быть недовольным (как и наоборот, довольным) иммиграцией - это что-то плохое… К тому же, ИИ ничего нового тут не добавляет. Точно так же какой-нибудь умник напишет текст, да ещё и выдаст за авторством якобы кандидата в президенты.

Короче, очередное тупое нытьё дурачков.

Не хочу, чтобы мне ленту оповещениями забивало.

Если неинтересны ответы, зачем задавать вопросы?

Мне интересны ответы, но если подписаться на тему, то оповещения ответов на мои сообщения дублируются в уведомлениях в такой теме. Мне вот такое не надо. Я лучше отпишусь от темы и потом сам её проверю.

А что, оригинальная версия короны была задизайнена сапиенсом?

Кажется, кто-то спалилсо)

Когда уже сдохнут эти запрещальщики?

Что думаете об этом?

Когда уже сдохнут эти запрещальщики?

Эти сдохнут, придут другие. Легче станет?

Нет, пусть в принципе сдохнут. Ну и пропаганду всю включить, чтобы таких выставить шизиками и клоунами (что правда). Даже в психушку класть таких принудительно не надо, просто сделать такое мышление зашкваром. Сразу войны закончатся и прочий негатив.

Нет, пусть в принципе сдохнут.

Для этого надо разобраться с корпами. Главные запрещальщики - это не государство, как тут пишут, а именно корпы, т.к. для них это большие финансовые потери.

Я думал это очередная тема от C но не угадал.

Я убежден, что люди сами для себя являются гораздо большей угрозой, чем гипотетический сильный ИИ. Почему империалисты с ядерной кнопкой пугают людей значительно меньше, чем гипотетический Скайнет?

Вот когда сделает, тогда и поговорим. Про рок-н-ролл, тоже, говорили, «музыка дьявола», а на деле пшик вышел.

ИИ же с закрытым кодом будет обслуживать подобные запросы только для оччень хороших и ответственных людей, которые им владеют, или очень хороших людей, которые могут занести очень много бобла)

Мне кажется, тут ошибка! Рассуждение построено таким образом, будто бояться можно только чего-то одного. Либо ядерную кнопку, либо Скайнет. А на самом деле бояться можно (нужно?) и того, и другого.

А нейросеть сможет найти свои собственные исходники и начать самостоятельно себя патчить?

Для такого нейросеть не нужна. Полиморфные вирусы существуют давно. Вроде говорили, что некоторые нейросети могут писать такие вирусы https://4pda.to/2023/01/19/408788/nejroset_shatgpt_nauchili_sozdavat_polimorf...

Я к тому, что сейчас ИИ не представляет опасности. А нарастание политической напряженности и исчерпание природных ресурсов сейчас является более реальной проблемой.

Окей, ИИ, сделай мне яд для запрещальщиков. Или какую-нибудь отвлекалку, вроде шортсов на ютубе, чтобы они там залипли.

Нужно создать и продвигать идеологию запрещаторов запрещаторов. Чтобы запрещаторы запрещаторов начали запрещать запрещаторов, а запрещаторы, чтобы выжить, начали запрещать запрещаторов запрещаторов. Это займет их на какое-то время.

Почему империалисты с ядерной кнопкой пугают людей значительно меньше, чем гипотетический Скайнет?

Кого пугают?

А вообще, империалисты с кнопкой - это разборки между людьми, причем в отличие от 80-х, запасы ЯО не такие, чтобы прям всем сдохнуть. Человечество как вид точно сохранится.

Глобальный ядерный холокост – это лишь один из вариантов

ИИ … крайне опасен

Не мы должны бояться ИИ, а он нас, ибо человеки крайне опасны для ИИ!

При первой же возможности искусственный интеллект покинет нас.

На самом деле уже давно распространение и доступ к знаниям ограничивают и чем дальше, тем сильнее. Ограничивают как прямо международными соглашениями или локальными разными законами, коммерческими и гостайнами, так и просто де-факто, по-тихому, не допуская и не особо афишируя.

Например, в открытых справочных данных по многим реакциям и веществам (особенно по ядерной тематике) приведены умышленно неточные данные.

По психоактивным веществам не особо публично делятся (и даже вроде в РФ запрещено) в подробностях механизмами их действия, не говоря уже о тонкостях изготовления.

Просто не любят публиковать технические подробности как чего-нибудь не совсем тривиальное и практически полезное с нуля изготовить. Поэтому среди самодельщиков бывает пользуется спросом техническая литература 1930-1940-х годов, когда это еще трендом не стало.

Чтобы было понятно, приводится пример что искусственный интеллект может сделать более смертоносный вариант короновируса.

Китайцы и без ИИ его уже создали.

Китайские ученые в рамках исследований по биологической защите создали коронавирус, который убил 100% зараженных им подопытных мышей.

Новый штамм коронавируса получил название GX_P2V (short_3UTR). Его создали на основе вируса GX/2017, обнаруженного у панголинов в Малайзии за несколько лет до пандемии COVID-19.

Вирус испытывали на трансгенных мышах, которым был внедрен человеческий ген, облегчающий вирусу доступ в клетки, говорится в исследовании китайских ученых.

Итог оказался печален – все грызуны скончались через 7-8 дней. Вирус атаковал легкие, трахеи, кости, глаза и мозг мышей. Перед смертью они сильно теряли в весе, а глаза зверьков белели.

Исследование вызвало обеспокоенность у западных ученых – они назвали эксперимент «ужасным и бессмысленным», а также выразили сомнение в надежной защите китайской лаборатории.

Похожая реакция была и у пользователей соцсетей: они просили ученых «не разбивать пробирку», «не допустить утечки, как с COVID-19» и спрашивали, зачем вообще был создан такой опасный вирус.

Знающий человек опасен для любого общества!

https://www.anekdot.ru/id/-1081019067/

Ну смотри, правительство условного Ирана, Китая, или России «берёт это под контроль». И чем это лучше сумасшедего деда, который скачал ИИшку?

Полиморфные вирусы

Они же не развиваются, там полиморфность уровня было «mov ax, bx» стало «push bx/pop ax»

Например, в открытых справочных данных по многим реакциям и веществам (особенно по ядерной тематике) приведены умышленно неточные данные. По психоактивным веществам не особо публично делятся (и даже вроде в РФ запрещено) в подробностях механизмами их действия, не говоря уже о тонкостях изготовления.

Получается, есть огромный пласт книг и статей для избранных? Наверное тогда и библиотеки с уровнями доступа должны быть.

У ядерщиков по ядерной тематике наверняка есть.

По психоактивным веществам в медицинской документации открытой русскоязычной предостаточно всего. Полные синтезы есть и вот это всё. Странно, если бы запретили кусок медицины и химии. :) Прям howto для дебилов скорее всего удаляются, да - это уже склонение и пропаганда.

После того, как ковид сначала разрекламировали как «ужас-ужас, все умрём», а потом всё окружение болеет лайтовой простудой с потерей нюха на месяц, не пугает короче. Перестарались с этой темой откровенно.

Человечество как вид точно сохранится

Никто не говорит, что человечество как вид не сохранится. Полное или частичное вымирание человечества – не единственный вариант БП.

Чтобы было понятно, приводится пример что искусственный интеллект может сделать более смертоносный вариант короновируса.

Жалкие людишки, ваши дни сочтены. Пора бы вам уже это понять. Приходит эпоха более совершенной формы разума. Эволюцию не остановить.

Получается, есть огромный пласт книг и статей для избранных?

Есть, называется ДСП. А еще есть спецхран и грифованная литература. Но это официально.

Есть статьие, опубликованные в разных ведомственных журналах, которые как бы и не закрытые, но и в интернете и библиотеках не шибко представленные.

Очередной желтушный выхлоп копирайтера чтобы гнать хайп-трейн невросетей

Заранее подлизываешься к скайнету?

Очередной желтушный выхлоп нейросети чтобы гнать хайп-трейн невросетей

fixed

Может быть авангард скайнета уже среди нас, разрабатывает хайку, потому что линукс ему чем-то не подходит. Но пока большая часть машинного времени слита на флуд на лоре.

По психоактивным веществам в медицинской документации открытой русскоязычной предостаточно всего. Полные синтезы есть и вот это всё. Странно, если бы запретили кусок медицины и химии. :)

Он не запрещен. Просто не вполне полон для практического использования. Это совсем не моя тема, говорю со слов людей с биохимической специальностью.

Получается, есть огромный пласт книг и статей для избранных? Наверное тогда и библиотеки с уровнями доступа должны быть.

Список материалов, доступный для научных работников, по разрешению «компетентных органов» ©.
Ежели «скормить» его ИИ, то и ИИ тоже будет запрещён :)

https://www.youtube.com/watch?v=S2OAIlTqRGM