Открыта закрытая бета OpenAI Codex

Спрашивай, если что.

Касательно тезиса замены машиной человека, приведу пример.

Вот есть условная Маша, и она — инженер-программист. Она уже есть, и уже делает свою работу. Но тут приходит условная Лена и говорит, что скоро Машу заменят Алисой. Которая сейчас — «умная колонка», но скоро научится программировать. А заодно Алиса потом заменит и Васю с Димой, которые сейчас эту Алису программируют.

Так вот, это утверждение придется доказывать, и доказать его сейчас будет сложно.

Если же брать постановку вида: есть некая задача Т и кто будет выполнять её лучше, человек или машина в соответствии с заранее и формально заданным списком критериев успешности, то тут никакой фундаментальной проблемы нет.

есть некая задача Т

тут никакой фундаментальной проблемы нет

С этого места поподробней :)

Тебе надо задать конкретный вопрос)

Ну, вот формализовали задачу формальной системой. Как обстоят дела на счет «полноты и непротиворечивости», «останова» и прочих от «отсутствующих фундаментальных проблем»?

На практике эти вопросы мало колышат, потому что в противном случае придется доказывать, что человек способен решать проблему остановки в общем случае. Что тому же Пенроузу, например, не удалось.

На практике эти вопросы мало колышат

Как собираешься сравнивать человека и его заменителя, если нечего сравнивать из-за «отсутствующих фундаментальных проблем»? Написал «теорию струн» для сравнения человека и машины, и не неизвестно как его решать.

На практике решают волевым решением, а не фундаментальным

На практике мы не умеем решать «нелинейные задачи».

на HTML и JavaScript.

О Боже! Закопайте это поскорее.

можно значительно снизить требования к квалификации программиста

Куда ниже то!?

Это уже другой вопрос, как именно мы что-то решаем. Сейчас решают PR-отделы и толпа. Тут же я беру классическую позитивистскую постановку вопроса и классический же логико-эмпирический метод продвижения дискурса вперед.

И здесь я веду к тому, что обычно аргументы вида «машина не может заменить человека» логически несостоятельны, потому что плохо поставлены. И их пропонентам всё, что остается, это либо игнорировать оппонентов, либо прибегать к административному ресурсу (апеллировать к настроениям публики).

Человеку есть о чем беспокоиться, и проблемы нейронных сетей (blackbox, power wall) не должны расслаблять. Проблемы эти у нейронных сетей, а не у ИИ в целом. И кроме нейронных сетей (бихевиористских методов в ИИ) есть еще много чего, что сейчас в медийной тени, но может в один прекрасный момент выйти на первый план.

логико-эмпирический метод

Отличный метод!

И что? Каспаров проиграл из-за ошибки комьютера. Если машина всегда выбирает лучший результат, значит она предсказуема.

Если машина всегда выбирает лучший результат, значит она предсказуема.

Кем/чем предсказуема - другой машиной?

Да, со Стариком был эпик фейл) Вот вся суть этих продвинутых ботов: https://youtu.be/FFJRd9l6kW4?t=2029

https://youtu.be/FFJRd9l6kW4?t=2029

Красная точка на миникарте - это оракул. :)

Потому что человек не машина.

Что такое математика и почему она работает?

И вот теперь ключевой вопрос: что такое есть у человека, что делает его «не машиной»?

Потому что человек не машина.

Да неужели.

На практике эти вопросы мало колышат, потому что в противном случае придется доказывать, что человек способен решать проблему остановки в общем случае. Что тому же Пенроузу, например, не удалось.

Если задуматься, то кажется что тезис неверен и человек не способен решать проблему останова в общем случае. Хотя конечно чёрт его знает.

Если ты о фундаментальных моментах, то я не знаю. Предполагаю, что сложность и необходимость развития (т.е. мотивация). Возможно мотивация является порождением сложности и возможно что сложность достижима для машин впринципе.

Но если говорить о здесь и сейчас (и ближайшую перспективу), то таки нет, останусь при своём, человек не машина и это очевидно.

Неужели да.

Если физику можно аппроксимировать до бесконечности на цифровой машине

Ты можешь аппроксимировать только известное взаимодействие элементарных частиц, но не сами частицы.

что такое есть у человека, что делает его «не машиной»?

По определению - цель.

Цель машины - это заменить человека для выполнения определенной задачи.

А вот какая цель у человека - одному богу известно.

Палитес, Владимир. Бога нет.

Я в 1С посчитал, что

бог Один

А кому одному известно, какая цель у Бога?))

Я к тому, что ты высасываешь отличия из опыта непосредственных переживаний. Это нормально, и этому аргументу сто лет в обед. «У человека есть сознание, а у машины его нет». И, если сознание несет функциональную нагрузку, то машина соответствующую нагрузку воспроизвести не может. И тут есть две постановки:

• не может в принципе;
• не может «пока что».

С практической точки зрения обе постановки почти эквивалентны, так как мы можем указать список важных задач, которые даются очень просто человеку, но практически не поддаются машине. Разница лишь в том, оно «в принципе» или «пока что».

Неужели да.

Суть в том, что оба утверждения нужно доказывать, и оба утверждения доказать сложно. Поскольку бремя доказательства возлагается на утверждающего, то первым «попавшим на доказательства» становится тот, кто первым выдвинет свой тезис))

Хотя конечно чёрт его знает.

Роджер Пенроуз пытался в своих «Новом уме короля» и «Тенях разума» показать, что человек интуитивно способен решать проблему остановки. И у него таки это выходило весьма убедительно для усредненного читателя. Но не для математиков.

Т.е., вообще говоря, Гёделев аргумент очень трудно применить для критики вычислительных теорий разума. И если даже у Пенроуза получилось «не очень», то остальным нужно весьма постараться, чтобы здесь преуспеть.

Я к тому, что ты высасываешь отличия из опыта непосредственных переживаний.

Есть определение машины (инструмента). И в этом определении есть назначение (цель) машины (инструмента).

Вот когда машина будет ставить цель для человека, тогда можно сравнивать. Когда играешь в контру, и тут система тебе на весь экран покажет модальное(!) диалоговое окно, что она-красавица обновилась, надо перезагрузиться с единственным выбором-целью. Вот тогда можно сравнивать человека и машину. :)

Предполагаю, что сложность и необходимость развития (т.е. мотивация). Возможно мотивация является порождением сложности и возможно что сложность достижима для машин впринципе.

Я тебе помогу. Есть в психологии такая штука — теории разума. Это то, как человек объясняет себе собственные ментальные состояния и предполагаемые ментальные состояния других людей. Теории разума могут быть весьма примитивными (например, дуалистическими), а могут быть каузальными. Т.е. выводить какие-то причинно-следственные зависимости между ментальными состояниями. Так вот, ИИ — это просто предельная форма теорий разума, при которой любое ментальное состояние может быть редуцировано к каузальным схемам над сущностями с простым (конечным) поведением.

Если мы можем найти некоторое ментальное состояние, которое было бы гарантированно несводимо к таким каузальным схемам («Причина и Следствие») несмотря ни на какие усилия, то мы будем способны доказать субстанциональное превосходство человека над машиной.

Если же такие состояния можно найти, но их сводимость — это «вопрос времени», то мы имеем сводимость в пределе, что то же самое, что и сводимость.

И здесь есть фальсифицируемый тест. Теории разума можно развивать тренировками. И вот если мы обнаружим, что есть определенная статистическая связь между количеством усилий (затраченного времени) и субъективной трудности интроспекции, то это говорит в пользу сводимости в пределе.

Вот когда машина будет ставить цель для человека, тогда можно сравнивать.

А разве она не может?)

А разве она не может?)

А что сделает машина, если я откажусь? Расстреляет? А как же первый закон робототехники? И, вообще, кнопка выключения у меня-человека!

А что сделает машина, если я откажусь? Расстреляет?

Она тебя уволит. В US это станет проблемой.

Она тебя уволит. В US

Говорят, в Англии засудили по свидетельским показаниям машины. В США уже увольняют под подпись машины?

И вообще «уволить» - это «ой-ой-ой, как страшно!», по сравнению с физическим уничтожением машины, которая не выполняет поставленной задачи.

физику

аппроксимировать

Физика - это и есть аппроксимация природы. Аппроксимация аппроксимации. Экспроприация экспоприаторов. Точно!

Неужели да

человек не машина и это очевидно

Уровень аргументации «правоверный».

В США уже увольняют под подпись машины?

Легко. Тут работодатель может уволить просто по желанию своей левой пятки. Работник тоже может вот так вот просто уволиться.

У амазоновских рабочих так. Несколько «штрафных баллов» — и увольнение происходит автоматически. Другое дело, что это надо еще постараться, чтобы на эти баллы влететь.

по сравнению с физическим уничтожением машины

Такие аргументы не выдержат игры в «что если?». Что если машина получит право самостоятельно принимать решения нажимать на гашетку? Такие разговоры уже давно идут, и это рано или поздно случится. Comply or die.

Нда, вот это энтерпрайз https://youtu.be/SGUCcjHTmGY?t=1015

Наконец-то эффективные менеджеры получат исполнителя, который в точности реализует их продуктовое видение.

Но, конечно, это впечатляет.

Тут работодатель

Работодатель - машина?

Что если машина получит право

Сперва пусть получит цель «бесцельно стрелять», потом можно подумать, давать ли право «бесцельно стрелять».

А пока машина по определению имеет заранее определенную цель (логично-тавтологично), сравнивать нечего.

Ты уводишь тему в обсуждение несущественных вопросов. Если ты веришь в Бога, то для тебя вопрос превосходства машины над человеком должен быть принципиальным. Потому что одно из двух. Или у человека нет души, или у машины она тоже есть.

Ты уводишь тему в обсуждение несущественных вопросов.

Главное - первым обвинить. :)

Может вернемся от «работодателей-машин» к классификации людей и машин по цвету кожи целеполаганию. Гужевая лошадь - это машина или человек? Бледнолицый раб индейца - это машина или человек?

Это аргумент «соломенного чучела». Ты навязываешь удобную тебе частную постановку задачи и мы ей потом до посинения обсуждаем.

Если ты про формальную сторону вопроса, то машины могут заниматься целеполаганием. Берем задачи оптимизации, перебираем их в каком-то произвольном порядке, получаем цели. Спускаем эти цели человеку вниз по пирамиде подчинения.

Это аргумент «соломенного чучела».

Не, так не пойдет. Подмена понятий у тебя. Ты сначала попросил определить «разницу человека и машины». Я дал определение - отличаются целью. При этом, ты сам не привел свое определение. После ты упорно споришь с моим определением, но не даешь свой, и обвиняешь в подмене понятий. Начал подменять машину человеком-работодателем, который что хочет, то и делает по желанию левой пятки.

Что я подменил - отсутствующее определение?

Что я подменил - отсутствующее определение?

Ты подменяешь один тезис другим. Я тебе уже сказал, что если ты веришь в Бога, то вопрос субстанционального превосходства человека над машиной для тебя — принципиальный вопрос веры. И тут нечего обсуждать. Не надо ни целей, ни квалиа, ни свободы воли. Ничего.

Если ты, конечно, не «тот самый Владимир», и в Бога не веришь. Тогда извини. Анонимусы тут как коты Шредингера. Все как один, и все разные одновременно.

Так что давай так. Если ты принципиально допускаешь возможность субстанционального тождества человека и машины, то я объясню тебе, в чем проблема «аргумента целеполагания».

Если нет, то я тут не собирался доказывать, что машина равносильна человеку. У меня нет этого доказательства.

если ты веришь в Бога

Щасбы верить в бога, и писать это слово как душе(!) угодно и сочетать с чем попало. В отличии от тебя :)

квалиа

Опять это слово, определение которого мало кто знает. А те кто знают, каждый по своему понимает, и вертит (подменяет) как хочет. Типичный «философский термин».

субстанционального

Какого-какого? Кажись ты - прожённый философ. Я уже в ожидании какого-нибудь философского бреда, сгенерированного марковскими цепями.

превосходства человека

Оказывается тут разговор про «превосходство человека», а не про различия машины и человека. То-то, я думаю, почему уводят разговор в эту сторону.

Давай я тебе вопрос поставлю ребром. Подтверди, что ты в Бога сейчас не веришь, и тогда я объясню, в чем трудность с «аргументом целеполагания». Ты можешь считать себя агностиком, т.е. «я не знаю, верю я или не верю». В данном конкретном случае это пойдет по ветке с условным названием «не верю».

Подтверди, что ты в Бога сейчас не веришь

Давай, ты сперва дашь определение «веры в Бога». Требуешь классифицировать, но не говоришь как.

С каждым твоим сообщением все дальше и дальше от изначального вопроса. Начали про машины среди людей, теперь про людей среди богов.