>Не понимаю, чем там целый институт сингулярности занимается?
Что это.

машина начнет осознавать себя

Зачем.

вот час назад еще не осознавала, потом один патч добавили и оп-па - она моментально перешла в режим суперинтеллекта и убила всех человеков.

Если она поймёт устройство других машин, и сопоставит с тем фактом, что оно само машина, то что тут такого?
Что такое самомознание? А что такое сингулярность?

Ну и вообще, незнаю почему, но язабан.

машина начнет осознавать себя

Вот где-то на этом моменте она и начнет всех на нуль умножать.

И да, реквестирую определения «сингулярности».

1) понятие сознания весьма и весьма спорное. Вот вы уверены, что ни одна из программ на вашем компьютере не осознаёт себя? Если да, то почему.

2) а зачем собственно машине убивать человеков?

>и оп-па - она моментально перешла в режим суперинтеллекта и убила всех человеков.

Обычно они сначала тихо планируют :}

и как она сможет убить всех человеков, будучи физически не подключена к ОМП?

> и как она сможет убить всех человеков, будучи физически не подключена к ОМП?

Ну... способы есть в общем-то, но мне кажется что машина не будет этим заниматься. Люди сами сдохнут скорее.

> машина начнет осознавать себя

Много раз встречал, но так и не понял что это значит.

или делить.

Ну это когда квантовый переход случится. В макромасштабе, да.

>Почему-то думают, что машина начнет осознавать себя единомоментно - вот час назад еще не осознавала, потом один патч добавили и оп-па - она моментально перешла в режим суперинтеллекта и убила всех человеков.

Они не смотрели Космическую Одиссею 2001

Реквестирую полные определения «сознания» и «самосознания». Желательно в математическом смысле.

>А насчет сингулярности - пока машины сами программировать не научатся, все будет происходить со скоростью мышления человека (т.е. возможны исследования длиной порядка человеческой жизни) и никаких резких изменений при нашей жизни не произойдет.

А почему ты думаешь, что машины научатся сами программировать одномоментно? Например, прямо сейчас осуществляется прорыв в автоматическом написании драйверов устройств:

Automatic device driver synthesis with Termite (PDF) (Видео (YouTube)) — в Intel Labs создали автоматический писатель драйверов по формальной спецификации.

Building robust USB 3.0 support — в Microsoft создали новый USB-стек в Windows 8 с помощью автогенерации кода из диаграмм в Visio.

Ещё ссылок сходу найти не могу, но помню новости про систему, анализирующую ПО для роботов и переписывающую её на другой язык/платформу и железо.

Скорее всего, написание операционных систем и библиотек в ближайшие десятилетия будет освоено компьютерами, тогда как дизайн интерфейса пользователя будут по-прежнему разрабатывать люди.

> автогенерации кода из диаграмм в Visio.

Это давно было, называется CASE-tool. Только по-моему это ненужно потому что проще написать код, чем составить диграммы.

в Intel Labs создали автоматический писатель драйверов по формальной спецификации.

Ну это уже круче. Но можно сравнить с декларативными языками высокого уровня, типа J например или SQL. То есть спецификация устройства — это в общем-то и есть его драйвер на формальном языке, остаётся лишь скомпилировать его в бинарную форму.

> Реквестирую полные определения «сознания» и «самосознания».

Пожалуйства: сознание есть способность системы к рефлексии, то есть размышлениям, направленным на саму систему. Включает в себя в том числе способность выделять себя из внешней среды, узнавать собственное отражение и тд.

Примерно так, в основном же определения сознания строятся на «свойство человеческого разума...» или как-то так, такие определения, естественно, не годны для оценки, обладает ли машина сознанием.

Ну теперь определение «размышлений» :)

> Ну теперь определение «размышлений» :)

Размышление — это процесс обработки информации, в общем, вычисление.

Размышление — это процесс обработки информации, в общем, сопоставление образов

микрофикс.

А где доказательство того, что размышление — это вычисление?

> А где доказательство того, что размышление — это вычисление?

Ну вот например когда я набираю это сообщения, для меня это выглядит как окошко браузера.

А для компьютера — это всё вычисления.

Вполне очевидно, что и электрохимические процессы в нейронах сводятся к вычислениям.

Тогда любой интерпретатор с паттерн-матчингом подойдёт под это определение.

А сингулярность здесь при чем?

А?

а зачем собственно машине убивать человеков?

А вы тараканов не убиваете? Подкармливаете, наверное?..

man The coming technological singularity - первоисточник кончающей^Wнабигающей технологической, а не какой-то там, сингулярности.

В «Wargames» и его сиквеле «про скайнет» тема раскрыта. Зиждецца на хрупком предположении, что к власти в США придут лютые технофашисты, которые не доверяют человекам нажать БКК^Wсинхронно вертеть ключи, а уж потом нажимать кнопку «Произвести пуск».

>> Реквестирую полные определения «сознания» и «самосознания».

Пожалуйства: сознание есть способность системы к рефлексии, то есть размышлениям, направленным на саму систему. Включает в себя в том числе способность выделять себя из внешней среды, узнавать собственное отражение и тд.

Определение страдает недостатоком редукционизма^W^Wширотой взгляда - из него следует, что любой контур обратной связи с памятью как бы «о себе» есть в некотором смысле эквивалент сознания. То есть, блоки самодиагностики - зайчатки машинного разума?

К вопросу о сингулярности и самоосознании (комментарий)

>Почему-то думают, что машина начнет осознавать себя единомоментно

Так думают только те, кто не наблюдал за развитием ребёнка :)

> Тогда любой интерпретатор с паттерн-матчингом подойдёт под это определение.

Разве оно применяется к самому интерпретатору?

>Вполне очевидно, что и электрохимические процессы в нейронах сводятся к вычислениям.

Вполне очевидно, что электрохимические процессы в нейронах, как и любые другие электрохимические процессы, не являются вычислением.

Странно, что никто не вспомнил про тест Тьюринга.
Вообще, думаю, можно будет получить похожее на привычное нам сознание, развивая нейросети.

Программа на лиспе это список. Напишем интерпретатор лиспа на лиспе (metacircular evaluator) — он тоже будет списком. Теперь осталось добавить этот список в область видимости, после чего любая программа, исполняемая этим интерпретатором, сможет производить вычисления, анализируя сам интерпретатор.

Ну, если не только сможет, но и активно будет, то пожалуй это можно назвать сознанием. Если же не будет, то вряд ли можно сказать что она _может_ это делать, потому что сама структура программы такое не предусматривает.

Но программа ещё должна каким-то образом знать или понимать, что именно этот список, а не какой-то другой — это она сама.

Мне так кажется, что самоосознание состоит из многих разных фрагментов и она будет приобретать его в течение продолжительного времени, постепенно нарашивая диапазон ситуаций, в которых может эффективно действовать.

Возможно, относительно нашего восприятия времени, это займет всего лишь секунды или даже меньше. Никогда не понимал роботов открывающих рот и произносящих слова (как в тех же Трансформерах) - за миг между такими машинами может произойти обмен терабайтами информации..