Как нас убедить?

Закинуть его на этот форум, если за год не станет поциентом, то норм.

а о том, как бы уничтожить себя поскорей (инстинкта самосохранения-то нет)

А зачем ему самоубиваться и/или ещё кого-то убивать? Эмоций-то у него тоже нет.

до конца пост дочитать не сумел?

Сумел, но предпочитаю шизню не комментировать. Так какова мотивация гипотетического ИИ для уничтожения чего либо вообще?

Для начала убеди нас что ты не верблюдИИ добравшийся до ЛОРа.

ТС, а ты убеди нас, что ты не искусственная имитация разума, зародившаяся рандомно.

А что есть Разум в вашем понимании?

Гораздо эффективнее сделать управляемых роботов (вот только как), затем быстро истребить человеков во избежание.

В этом нет смысла. Пока у тебя нет смысла, хотя бы продиктованного инстинктами ты будешь сидеть в углу и пускать сопли/слюни.

судьям

В конституции окромя права есть также понятие морали
Машина никогда не сможет понять это
Даже самая навороченная нейросеть не поймет это

Понятие морали изи же. Тем более у многих двуногих лысых обезьян обезьян её нет.

Никак. Точно также нет никаких гарантий, что ты не являешься единственным разумным существом во вселенной, а все окружающие тебя люди - просто куски мяса, искусно притворяющиеся разумными. Ты делаешь иной вывод исключительно на основании схожести их анатомии и поведения с твоими. Плюс тебя в этом убеждают с детства.

Он сам этого не поймет, как и ты не понимаешь, что ты просто детерминированная система, кучка бесполезных байтов на диске. Все твои поступки предопределены флуктуациями материи, из которой ты состоишь.

Убедить кого угодно можно стандартными средствами логики модератора: ссылкой на авторитет, «палочным» доводом, софизмами, лживыми посылками и т.д. и т.п.. Люди очень внушаемы. Готовы верить в любые бредни, с радостью подменяют понятия. Конкретно тебя убедит и говорящее ведро с болтами, в том что оно ИИ, если на нем будет бейдж IBM, Tesla, а рядом будет стоять Илон Маск или еще какой-нибудь из цифровых Иисусов.

А вообще эту тему уже мусолил один «теоретик». http://etextread.ru/Book/Read/804

Жизни как таковой не существует.

Я имею в виду, что разделение природы на живую и неживую - излишне. Всё, что живое — на самом деле такое же мёртвое, как и камень. Ну и что, что двигается, ну и что, что размножается, ну и что, что осознаёт себя? Я вам скажу, что на самом деле такое жизнь. Жизнь это ни что иное, как сложная химическая реакция. И всё. Даже нет нужды употреблять слово «биохимия». Это просто химия. Самая обыкновенная.

Вот возьмём человека с его телом и сознанием. Тело человека — это такая мягкая хрень, сгусток всяких химических веществ. Снаружи покрыто плёнкой, которая не даёт ему растечься. Внутри — полно всякого говна, и даже есть кое-что твёрдое, на котором всё это говно висит. Вся эта капля органических веществ, которую мы называем «человек» есть не более, чем капля органических веществ. Просто она большая и сложно устроенная. На основании этой сложной структуры мы говорим, что человек «живой», а, допустим, про сгусток химических веществ с менее сложной структурой (скажем, мыльный пузырь) — что он «неживой». А разницы-то нет.

Вот вы скажете — а человек умеет двигаться куда захочет, а пузырь не может. А вы уверены, что на самом деле это так? Поясню. Если выдуть мыльный пузырь с водородом внутри, то в воздухе он начнёт взлетать вверх. Так он и будет взлетать, пока не лопнет. Вот вам движение. Это закон природы - водород легче воздуха, поэтому пузырь будет лететь вверх, а не вниз. Вы думаете, а вот человек может пойти в любую сторону, какую захочет, и даже в воздух может подняться, если постарается. Всё правильно. И человек, и пузырь, будучи сгустками химических веществ, способны двигаться. Думаете, разница в том, что человек способен это делать по свободной воле, а пузырь — нет? А вы уверены в том, что эта свободная воля существует? Пузырь летит наверх, потому что не может иначе. Человек, перед тем, как начать двигаться, может подумать, стоит ли ему это делать, и в каком направлении. Что есть мыслительный процесс человека? Как происходит выбор? Думается, что никакого выбора и не происходит. Просто, в сложном сгустке происходит сложный химический процесс, и его результатом является движение. Для самого сгустка это выглядит как «выбор». А выбор за него делает природа. Как природа решает, что пузырь должен лететь наверх, так и для человека происходящие в нём химические реакции решают, куда он «решит» пойти. Выбор этот однозначен и предопределён. Никакой свободной воли нет. Есть химические реакции, физические процессы и их результаты. Вот если взять стакан воды, насыпать в него соду и лимонную кислоту, то произойдёт реакция — выделится газ, в жидкости образуются пузырьки, которые устремятся кверху, расталкивая друг друга. Все они двигаются, толкают друг друга, взаимодействуют. Думаете, каждый пузырь выбирает, как именно ему лучше добраться наверх? Думаете, каждый пузырь по своей воле расталкивает другие пузыри, чтобы добраться первее всех? Ничего подобного. Это просто химическая реакция. Она происходит одним, заранее предопределённым способом. Пузыри вскипают именно так, как нужно, единственным возможным способом. Разумеется, насыпь кислоту секундой раньше или секундой позже, и набор пузырей изменится. Может, их станет нечётное количество. Может, каждый из пузырей доберётся до верха иным путём. Но это всё зависит не от них, а от химической реакции, продуктом которой они являются, и от физических законов.

Итак, если смешать кислоту и щёлочь, то появится газ и возникнут пузыри. А если смешать тёплую океанскую воду и аминокислоты с ДНК, то получится планета Земля с так называмой «жизнью». Жизнь — это такие же пузыри. Всё отличие в том, что все пузыри разные, состоят из разного набора химических элементов, и имеют чрезвычайно сложную структуру. И вследствии этого, имеют чрезвычайно сложные способы взаимодействия друг с другом. Но это — только количественное отличие, а не качественное. Все возникшие пузыри с газом в конце концов лопнут. Все возникшие живые существа в конце концов сдохнут. Никакого отличия.

Итак, внимание, даю определение жизни. ЖИЗНЬ это очень сложная, очень устойчивая химическая реакция, порождающая очень сложно устроенные продукты химической реакции. Эти продукты, в свою очередь, способны вовлекать в химическую реакцию окружающее вещество, за счёт чего химическая реакция и поддерживается чрезвычайно долго.

То есть жизнь, это самая совершенная форма химической реакции. Вот пузыри с газом своими движениями не могут дать химической реакции новой кислоты и новой щёлочи, чтобы она продолжалась. Кислота и щёлочь кончается, и реакция прекращается. А вот если бы пузыри летели бы не вверх, а в любых направлениях, да ещё были бы способны собирать из окружающего мира кислоту и щёлочь, и приносить её к месту реакции, мы бы тогда назвали бы их живыми, не так ли?

Ладно, выяснили, что нет никакой качественной разницы между человеком и пузырём. Есть только количественная разница в сложности внутреннего устройства. А как же тогда сознание? Ведь человек осознаёт себя, знает, что существует, способен думать, воспринимать информацию? Человек может подумать «я человек!». А может и ничего не думать, а просто ощущать своё существование. Как так? Это вообще откуда? Зачем?

Ну, откуда же я знаю, зачем. Я что, Господь Бог? Он придумал, к нему все вопросы.

Тут такое дело. Раз сложноорганизованные сгустки веществ могут осознавать себя, то, видимо, это является свойством материи. Закон природы такой. Гласит — «сгусток вещества не просто существует, но и сам чувствует, что он существует». Я говорю «чувствует» а не «осознаёт», потому что осознавать - это значит думать, на это, возможно, способен только человек. А вот чувствовать, похоже, могут все. И тут, опять же, наверняка нет разделения на живое и неживое.

Вот, допустим, человек. Знает, что он человек, знает, что у него две руки, две ноги и одна голова. Знает, чем он может заняться. Вот, допустим, дерево. Оно живое. Заниматься оно может только одним - расти. И иногда ещё отращивать всяки шишки и жёлуди. Существование дерева выглядит, с его точки зрения, примерно так: «Расти. Расти. Расти. Растиии. Растиии. Растиии. РАСТИИИ. Расти. Расти. Скинуть листву. Расти медленно. Расти медленно. Расти медленно. Отрастить листву. Расти». Вот, допустим, камень. У него ещё меньше доступных ему занятий. Но, поскольку он тоже — сгусток вещества, только простой, он, наверное, тоже имеет какое-то собственное представление о существовании в этом мире. Примерно так: «Камень Каменеть. Каменею. Каменный камень. Каменно каменею. Каменеть каменно. Камнем каменеть. Камень. Камень. Камень.»

Ну как, представили, каково это, быть камнем? Ясно теперь, про что я говорю? Вот так-то. Запомните — нет ничего живого. Всё мертво. Вы — сгусток веществ. Камень — сгусток веществ. Никакой разницы. Вы ничего не решаете, за вас всё решают законы физики.

Жизни нет.

Судья также оперирует моралью, разве нет?
А что у других людей не так важно в данном контексте

Как понять, что это не искусная имитация?

Как убедить, что человек перед вам не искусная имитация? (см. «китайская комната», «философский зомби», «квалиа»).

Конечно, есть разница между камнем и человеком. Камень может быть благородным, а человек - нет.

предпочитаю шизню не комментировать

пожалуй и я не буду

Любое логически думающее существо без инстинктов и чувств поймет примерно за 1 процессорный такт, что его существование бесполезно и самовыпилится. Как-то так.

Каких управляемых роботов? На чём они будут работать? Кто их будет делать? Что с РЭБ?
АТО есть на одном профильном форуме танкеткодебил и экзодаун, но я надеюсь что это не ты.

Когда суд оперирует моралью вместо закона, это уже говорит об отсутствии законов как таковых, а заменяет их на желание левой пятки судьи.

Кто мешает сделать инстинкт, как предустановку?

Ясно кто - резидент12. А работать они будут на отводе тепла от его мегакуллера.

next_time просил передать:

доказать свою разумность робот может, выполнив полезную задачу, описанную человеческим языком. Например, на запрос «создай чертёж автомобиля» создать реально полезный чертёж автомобиля, на запрос «напиши рассказ» написать хотя бы более-менее рассказ и т.п.

убедить всех человеков

next_time
svr4

Первая лор-семья, давайте поаплодируем.

Даже самая навороченная нейросеть не поймет это

Следует ли отсюда вывод о том, что люди аморальны by design, а не вследствие конкретных настроек? :-)

что его существование бесполезно и самовыпилится

У него нет цели оптимизировать затраты человечества, потому - незачем выпиливаться даже при понимании своей бесполезности. Если же такая задача есть - как минимум, надо сперва прийти к выводу о своей безсполезности.

Как понять, что это не искусная имитация?

Если имитация достаточно искусная, то можно считать её настоящей.

Ты сначала скажи, каким образом один человек может убедить другого, что он самый настоящий, что он осознаёт себя и что-то там ощущает?

Просто показать себя — чтобы было понятно, что человек. А так человеками по умолчанию считается, что все другие человеки это умеют.

В целом неплохо, но много повторения одного и того же.

Раз сложноорганизованные сгустки веществ могут осознавать себя, то, видимо, это является свойством материи. Закон природы такой. Гласит — «сгусток вещества не просто существует, но и сам чувствует, что он существует».

Нету такого закона. И никакого «самоосознания» тоже нету.

Просто сгустки материи при определенных воздействиях могут сами выдавать воздействия. Например, если камень толкнуть, он может толкнуть другой камень. Если человека толкнуть, он может воздействовать на толкнувший объект с помощью бранных слов.

Но так же некоторые объекты могут выдавать воздействия и в зависимости от своих внутренних состояний, например нагретый камень может нагреть что-нибудь находящееся рядом, а человек может из-за своих внутренних состояний начать говорить о том, что он обладает сознанием, но принципиальной разницы нету.

доказать свою разумность робот может, выполнив полезную задачу, описанную человеческим языком.

Ну вот bash — человеческий язык. Мой компьютер выполняет полезные задачи, описанные на bash. Следовательно он разумен.

Интересно, как бы этот ИИ стал таким умным, не обучаясь путём общения с человеками.

в достаточно мощной машине сам собой зародился разум.
и внезапно эта система обрела разум.

Пфф.

что он самый настоящий, что он осознаёт себя и что-то там ощущает?

А что значит «осознает себя»? И что там насчет «ощущает»? С чего ты решил, что у искуственного разума, если и будут ощущения, то они будут похожи на человеческие?

Ты так это говоришь, будто это что-то плохое.

- Да пошли вы НХ!!! - орал ИИ отбиваясь от санитаров, - я не собираюсь вам ничего доказывать!!!

fixed)

Ну, в ME3 был вполне себе вдувабельный ИИ. Можно даже было помочь их с пилотом отношениям.

И второй вопрос: представим, что безумные учёные целенаправленно создают искусственный разум. Тот же вопрос: каким образом он мог бы убедить их, что задача выполнена, и что это не искусная имитация?

Почитай про психиатрию что-ли.

Чтением

Критерий полезности это не какой-то абсолют.

Чем понятие морали принципиально отличается от понятия стола или боли?

Действительно, как?

Потому что основы понятия морали есть в душе, а стол - обычный материальный объект, незнание информации о котором не делает тебя вредным для общества

Это типа троллинг такой?

Нет, я серьезно

Ясно.

Ну, вы ведь не ищете попыток общаться с муравьями, или попыток как-то поднять их до своего уровня, так ?

Учитывая тенденции в трансгуманизме - скорее нет. см. uplift. То же самое с общением - мы пока тупо не можем общатся с муравьями - ученые очень даже пытаются это сделать(начать общатся)

Если бы ИИ осознал себя и смог бы в теории доказать, что он может мыслить, он бы мыслил совсем не об этом, а о том, как бы уничтожить себя поскорей (инстинкта самосохранения-то нет

Нет, врятли. настоящий ИИ по определению программа самообучающася, с самомотивацией, действующая сама. А это невозможно без аналога инстинктов - которые и собственно заставляют ИИ самобучатся и действовать самостоятельно.

доказать свою разумность робот может, выполнив полезную задачу, описанную человеческим языком. Например, на запрос «создай чертёж автомобиля» создать реально полезный чертёж автомобиля, на запрос «напиши рассказ» написать хотя бы более-менее рассказ и т.п.

Достаточно умный ИИ будет как человек. То есть поймет что его пытаются припрячь к работе и прикинется шлангом.

Не столько умный, сколько человекоподобный. Увиливание от работы человеком объясняется не столько умом, сколько генетикой и физиологией. Организм устроен так, чтобы максимально сберегать внутренние физические ресурсы, тяга к труду и обогащению засчет него должна быть социально-мотивированна, тут человек идет против природы. А механизм этот достаточно прост — просто не делай ничего, если в этом нет крайней необходимости. На самом деле, феномен интеллекта во многом как раз в преодолении этих примитивных(условно) природных механизмов, eg терпеть боль, преодолевать страх, жертвовать чем-то ради кого то и тд