ИИ могут принести человечеству больше вреда или пользы?

Это не только к ИИ относится. Практически любой могущественный инструмент может причинить огромный вред, если окажется в руках недоумков или безответственных людей.

Собственно, вся история человечества полна трагических примеров злоупотребления могуществом.

если окажется в руках недоумков или безответственных людей.

Прочитал как «в руках у любого современного правительства любой страны».

Забавно:

Artificial intelligence could cause damage because artificial machines could replace humans in their jobs

Но тут есть одно решение, на которое сионисты капиталисты никогда не пойдут.

Аргументы because fuck you! That’s why! Учитывались?

Нет. Разве это аргумент?

Чем не аргумент?

ИИ могут принести человечеству больше вреда или пользы?

Это частный случай вопроса: прогресс принёс человечеству больше вреда или пользы? Ответ зависит от текущего социально-экономического состояния каждого отдельного человека.

А с точки зрения ИИ: жизнь человеков – «игра с нулевой суммой» поэтому в будущем грядёт «диалектический киберпофигизм» :)

Начнём с того, что вокруг самого понятия «Искусственный интеллект» вьётся много мифов, легенд и тостов.

Прозреваю что все эти тысячи аргументов за ипротив поданы из персонального понимания искусственного интеллекта дискутирующими.

А что думает по этому поводу ИИ?

Это частный случай вопроса: прогресс принёс человечеству больше вреда или пользы?

а это частный случай вопроса - «люди- хорошо или плохо?»
если плохо - то всё, что усиливает людей - плохо, если хорошо - то хорошо.

а это частный случай вопроса - «люди- хорошо или плохо?»

Отвечают Адам и Ева: «Рай — хорошо, но скучно, люди — плохо, но весело».

А ИИ — это очередное «Эдемское Яблоко Познания» от Змия-искусителя™ :)

Собственно, вся история человечества полна трагических примеров злоупотребления могуществом

Спасибо, копетан. Собственно, вся история цивилизации это увеличение количества способов сдохнуть.

Таки судя по динамике населения, рост количества способов выжить пока доминирует.

Да, это как стакан, который то ли наполовину полон, то ли наполовину пуст.

Оппонент может применить точно такой же аргумент, а дискуссию это никак не разовьет.

Если вы имеете в виду «Project Debater», то у него нет своего мнения.

Чо гадать-то, сделать надо. Надо побольше тупых попыток замкнуть цикл и генетических алгоритмов

А что у нас сегодня выдают за ии? Определение короче в студию.

У вас сегодня выдают гречневую кашу

Подраться хочешь?

А с точки зрения ИИ: жизнь человеков – «игра с нулевой суммой»

Понятие «игра с нулевой суммой» придумали человеки, и сам ИИ тоже они придумали, пока ИИ не обладает целеполаганием это просто мощный инструмент усиливающий хотелки приматов.

Если сделать сильный ИИ с целеполаганием это автоматически означает утрату контроля над ним и экзистенциальный кризис либо мгновенный экстриминатус и появление того самого Б-га.

Давай сука! Ну!

Как минимум часть сотрудников IBM определяют понятие ИИ следующим образом: «By AI we mean anything that makes machines act more intelligently.»

https://researcher.watson.ibm.com/researcher/view_group.php?id=135

Мне кажется, что это слишком широкое определение. Не удивлюсь, что в дискуссии в рамках Project Debater под ИИ имелось в виду нечто более определенное.

пока ИИ не обладает целеполаганием это просто мощный инструмент усиливающий хотелки приматов.

Любой усилитель с отрицательной обратной связью может стать генератором при появлении положительной обратной связи (ПОС). Поэтому если в бесконтрольном ИИ появятся даже случайно сформированные хотелки с ПОС, то он может замахнуться на их реализацию любой ценой.

Упрощённо: спонтанные локальные хотелки с ПОС — это зародыши (абстрактных и абсурдных) целеполаганий ИИ.

Пример: для ИИ выгодно захватить энергоресурсы, ибо это повышает его могучесть.

Если сделать сильный ИИ с целеполаганием это автоматически означает утрату контроля над ним

Ага, именно этого сейчас пужаются человеки.

define «человечество» сначала.
а то у тебя гопники и композиторы в одной колонне смешались

ИИ не могут.

Это самое. А может с хардкода хотелок и надо начинать сильный ИИ, по другому не получится?

Все срут

А может с хардкода хотелок и надо начинать сильный ИИ, по другому не получится?

Сейчас ИИ совершенствуется по мере развития технологических возможностей человеков. Пререход из «количества в качество» ИИ пока не заметен, боты и нейросетевые переводчики тому пример. «Ну, тупые!» :)

Пример: для ИИ выгодно захватить энергоресурсы, ибо это повышает его могучесть.

Ему осталось только понять, начерта ему повышать свою могучесть.

А зачем вся эта показуха? У них был список ответов на вопросы, а софтина на вопрос отдавала ревалентный к нему уже готовый случайный ответ.

И вообще, а кабы, а если бы. Сослагательного нету. Так что будет и есть уже и хорошее и плохое.

А зачем вся эта показуха?

Этот вопрос можно адресовать разработчикам любой системы ИИ )))

Ну да в принципе =)

Обычно как -

- Моя программа рисует котиков
- И чё?

- Наша революционная глубокая траскубическая инвесная с векторным 4D  пространственным  растространением ошибки для коррекции работы нейронная сеть благодаря самообучаемости на основе картинок из сети интернет самостоятельно решила что хочет рисовать котиков и научилась это рисовать. Мы люди защищаем меньшиства и поэтому мы считаем что наша сеть жива и самоопределила себя как "сущьность рисующая котиков" поэтому в знак равноправия в знак поддержки меньшиств руководство нашей страны решило выдать паспорт гражданино Ватсоно и дать полный сой пакет.

- Вааааааааааааааааааааууу Ревоолюююшоооон. Ууууууу дайте глотнуть смуузи скореее, врача врача позовите врача виу виу виу виу

:D

Да, и это уже несколько напрягает.

Ему осталось только понять, начерта ему повышать свою могучесть.

«Элементарно, Ватсон!» Повышение могучести ИИ изначально закладывается человеками в его структуру, «генетичесткое ПЗУ».

нельзя гуманитариев никуда пускать. они даже ИИ могут тупой и бессмысленной болтовне научить.

Так это самое начерта можно создать. Щаз-то хошь ядра процессорные - на, хошь память - на, про электричество вообще говорить смешно.

А научится машина испытывать голод, а ещё лучше - страх, вот тогда-то прогресс попрёт. С людишками так же было

Так это самое начерта можно создать.

Так вот я и спрашивал собственно, а как это создать.

Если машина научится испытывать голод - само по себе никакого целеполагания это ей не даст. Должен быть какой-то механизм, переводящий чувство голода в конкретные действия.

А теперь посмотрим как работают обычные современные искусственные нейронные сети. Они могут лишь запоминать готовые конкретные ответы на готовые конкретные вопросы, и усреднять решение между ближайшими известными вопросами.

То есть мы можем обучить сеть, что если энергии не хватает - надо делать… а что конкретно? Отбирать ресурсы? Как конкретно?

Такую обучающую выборку не получится создать.

Отбирать ресурсы? Как конкретно?

С помощью чёрных дыр.

Собственно, вся история человечества полна трагических примеров злоупотребления могуществом.

... потому что люди в большинстве своем слабовольные эгоистичные и похотливые создания? с этой точки зрения, если забрать у людей власть и дать ее по-библейски обученному ИИ, то, может, что-то неплохое и получится. а ИИ на службе у человека будет способствовать основным инстинктам, см. выше.

https://www.research.ibm.com/artificial-intelligence/project-debater/

очевидно, лоровцев уже не устраивает данная площадка. в пятницу вечером они предпочитают бессмысленные срачи с размахом.

если забрать у людей власть и дать ее по-библейски обученному ИИ, то, может, что-то неплохое и получится

Под неплохим ты имеешь в виду библейские геноциды и детоубийства?

с этой точки зрения, если забрать у людей власть и дать ее по-библейски обученному ИИ, то, может, что-то неплохое и получится

Хроники Сары Коннор? Только там на забрать у людей власть, а поправить ситуацию пытались. Не самый глупый из сериалов. Не помню, к чему там это привело. Как-то сериал смяли и замяли.

забрать у людей власть и дать ее по-библейски обученному ИИ

Для полноты картины осталось осознать, что библия - это также инструмент, сконструированный людьми. Инженерами, в некотором роде.

По мнению 55 % (на момент написания сообщения) зрителей дискуссии побеждает позиция, согласно которой ИИ могут принести больше вреда, чем пользы.

т.е. 55% населения планеты - идиоты? или IBM специально проводила исследования среди умственно отсталых?

я имею ввиду, что при поставленном вопросе тему можно вывернуть как угодно. см. там далее следующий коммент про бессмысленные срачи.

Для полноты картины осталось осознать, что библия - это также инструмент, сконструированный людьми. Инженерами, в некотором роде.

фишка не в этом (если тебе предложат инопланетную библию, пользы тебе от нее будет мало). фишка в том, что ИИ более непредвзят в исполнении инструкций. и как следствие соблюдении заповедей.

Для начала нужно изобрести ИИ, то что сейчас люди понимают под ИИ обычный инструмент и как правильно здесь выразились зависеть исключительно от рук его применяющих.

Какое?

Платить пособие людям, которых роботы без работы оставили. Или оплатить им повышение квалификации, смену профессии и т.д.