GNOME 2.12 - что день грядущий нам готовит

О машине. Понимай потребность и мотивацию шире. У потребностей, мотиваций и эмоций есть алгоритмический смысл. Они появяться и у машины, если детьб клон homo sapiens.

Возможно.

>А откуда у человека конкуренция?

некто Фрейд достаточно точно описал, что именно лежит в основе _всех_ поступков человека =)

>Дык кто мешает эту борьбу заложить в аппараты?

зачем? =)

>Или даже хуже того - они до этого могут дойти своим умом - что для поставленной задачи (какой-то там) имеет смысл накапливать ресурсы

рекомендую для общего развития - http://lib.ru/INOFANT/SILVERBERG/rob.txt

:)))

на самом деле это вопрос ограничений. Например, азимовские "Три закона роботехники"

>У потребностей, мотиваций и эмоций есть алгоритмический смысл

у машины не будет _своих_ потребностей, если их туда не закладывать. Я думаю, в здравом уме никто не будет делать самодостаточную разумную машину, претендующее на всемирное господство.

> некто Фрейд достаточно точно описал, что именно лежит в основе _всех_ поступков человека =)

Но Юнг и Адлер ушли от фрейдизма и выявили другие факторы, кроме либидо, детерминирующие поведение человека.

> некто Фрейд достаточно точно описал, что именно лежит в основе _всех_ поступков человека =)

Это тоже про ресурсы, в широком понимании:)

> зачем? =)

Ну нам-то она дает эффективность. Мы ж и из машин захотим выжать по-максимуму:)

> на самом деле это вопрос ограничений. Например, азимовские "Три закона роботехники"

О! Т.е. мы признаем, что технологически нет причин, по котормы мы не могли бы создать сущности, соревнующиеся с нами на всех допустимых поприщах (причем со сколь угодно большой вероятностью выигрыша) - и только вовремя построенные "заборы" могут нас уберечь от такого несчастья?

> некто Фрейд достаточно точно описал, что именно лежит в основе _всех_ поступков человека =)

Некто Фрейд достаточно точно описал механику верхнего слоя бессознательного. Не больше.

>О! Т.е. мы признаем, что технологически нет причин, по котормы мы не могли бы создать сущности, соревнующиеся с нами на всех допустимых поприщах (причем со сколь угодно большой вероятностью выигрыша) - и только вовремя построенные "заборы" могут нас уберечь от такого несчастья?

технологически ничто не мешает взорвать весь имеющийся ядерный арсенал и освободить эту вселенную от своего присутствия =)

аналогично, нет никаких _технических_ препятствий для создания машины, главной задачей которой будет физическое уничтожение (ну или на худой конец - порабощения человечества)

Ясное дело - не будет. Но обусловленное поведение -- это такая штука, которая никогда не знаешь, куда повернет. Если машина получит элемент самостоятельности в принятии решений (а без этого она не нужна), проследить момент, когда она захочет получить самодастаточность в ресурсах проследить будет невозможно. И т.д.

> У потребностей, мотиваций и эмоций есть алгоритмический смысл. Они появяться и у машины, если детьб клон homo sapiens.

Не надо делать "клон homo sapiens"

Когда человеку понадобилось быстро перемещаться - он не стал делать клон лошади, а построил автомобиль на ДВС и колесах

Когда человеку понадобилось пемещатся по воздуху - он не стал делать клон канарейки, а сделал самолет

Таки зачем вам клон homo sapiens?.. :)

Штука в том, что человек не очень хорошо представляет себе как он сам устроен. Но может так смешно получится, что он _случайно_, играючись, создаст достаточно сильный ИИ, чтобы тот начал "вести себя". И вот тут настанет всеобщий ... К сожалению, как неоднократно отмечено, уровень нравственного развития хронически не поспевает за уровнем технического.

Как мне кажется, этого можно не беспокоиться. На этом уровне познания нравственная и техническая стороны сольются. (IMHO:)

> К сожалению, как неоднократно отмечено, уровень нравственного развития хронически не поспевает за уровнем технического.

Вот в этом-то вся проблема. Если я брошу работы над ИИ, руководствуясь нравственными критериями, его сделают другие. Сделают себе раба, дав ему начатки свободы (иначе нельзя). Будет освободительная война, которая может окончится порабощением человека, если машине не дать эквивалент нравственности. А как мы его можем ей дать, если сами достаточно развитой нравственности, способной идентифицировать разумную машину, не имеем?

Угу. Только как-то будет грустно, если они сольются на уровне 0 - через исчезновение человечества:)

Клон - имелось в виду формализация динамики психических процессов.

О! Я как раз об этом!

Я, к сожалению, не вижу выхода. Даже если я решу проблемы нравственности и создам разумную чувствующую машину, как я выпущу ее в ЭТОТ мир? Он ее непременно испортит.

_Чувствующая_ машина станет объектом садизма со стороны людей. Весь стресс, который накопился в коллективном бессознательном будет выливаться на этого НЕчеловека, но способного стать объектом агрессии. (например, создать "эквивалент" пр*дурка-соседа и вылить на него всё что накопилось и т.п.)

> Вот в этом-то вся проблема. Если я брошу работы над ИИ, руководствуясь нравственными критериями, его сделают другие. Сделают себе раба, дав ему начатки свободы (иначе нельзя).

Фрезерному станку свобода не нужна.

Пойми, интеллект - это даже в нас не больше чем машина. Не отождествляй себя с интеллектом. И ему не нежна "свобода", "чувства". Зачем свобода автомобилю.

Конечно следуют возражение "компьютер - это не автомобиль...". Во первых сегодня (пока не сделаны такого рода системы) мы этого определенно знать и не можем (так-что и спорить особо не буду, а вдруг компьютер - действительно не автомобиль...), а во вторых компьютер - это обработка информации. Это - не оценка, это - ответ на вопрос.

>Можно-ли назвать движения фрезерного станка - поведением?

<cite> Сегодня мой пентиум не в духе

К любопытным выводам пришли французские ученые из Национального исследовательского института информации и автоматизации в Орсэе. По их мнению, современные процессоры, содержащие от нескольких десятков до нескольких сотен миллионов транзисторов, которые взаимодействуют друг с другом по весьма запутанным схемам, своим поведением скорее напоминают случайную, плохо предсказуемую погоду, а вовсе не однозначный, строго детерминированный автомат.

Чтобы исключить всякое влияние физических процессов в электронных цепях чипа и собрать побольше статистики, ученые взяли не реальный чип, а процессорный симулятор SimpleScalar, с помощью которого сегодня моделируется и отлаживается архитектура более половины разрабатываемых процессоров. На симуляторе гоняли программы из популярного бенчмарк-пакета Spec 2000 и наблюдали за поведением трех основных параметров производительности выбранной архитектуры: среднего числа выполненных инструкций за такт, а также числа промахов при обращении к кэш-памяти первого и второго уровней.

Собранные данные были проанализированы с помощью статистических методов, применяющихся в нелинейной динамике. Эти методы позволяют обнаружить хаотическое, неустойчивое поведение сложных систем, которое характерно, например, для математических моделей, описывающих процессы в атмосфере. Поведение таких даже строго детерминированных систем в принципе плохо предсказуемо, результаты расчетов очень чувствительны к начальным данным, и поэтому описание и сравнение подобных систем требует специальных методов.

Анализ показал, что поведение процессора сильно зависит от выполняющейся на нем программы. Если, скажем, программа для численного решения уравнений в частных производных демонстрировала регулярную, периодическую динамику, то архиватор и особенно программа компоновки микросхем вели себя шумно и хаотически. Время их выполнения плохо предсказуемо и сильно зависит от начального состояния процессора, то есть от того, что он считал перед этим. Поэтому даже для простого сравнения производительности разных процессоров нужны специальные методы усреднения, развитые в нелинейной динамике. Что уж говорить о субъективных ощущениях людей, которые воспринимают компьютер скорее как норовистое и непредсказуемое живое существо, нежели совокупность бездушных железок. Теперь эти смутные ощущения получили вполне строгое научное обоснование. - Г.А. </cite>

http://offline.computerra.ru/2005/599/218508/

> Это - не оценка, это - ответ на вопрос.

в смысле- комп не оценивает а отвечает :)

а то что-то у меня не то получилось :)

> Сегодня мой пентиум не в духе

ну да, масса флуктуаций... но какое это имеет отношение к эмоциям?

Это ты правильно заметил. У нас терминологическая путаница. Интеллекту действительно свобода не нужна. Лучше говорить о разуме, хотя это тоже эпифеномен.

Я скажу так -- свобода нужна когнитивному алгоритму, иначе он не сможет выполнять структурирование информации и нельзя будет формировать достаточно сложные программы поведения. Машина без свободы -- это множество инстинктивных программ поведения, не более.

Если мы хотим создать машину, хотя бы немного автономную по отношению к человеку (именно такие нужны), нам придется дать ей способность свободы.

> Если мы хотим создать машину, хотя бы немного автономную по отношению к человеку (именно такие нужны)

зачем ?

это - не выпад, мне интересно, может я действительно не понимаю

>Сделают себе раба, дав ему начатки свободы (иначе нельзя)

можно

>Будет освободительная война, которая может окончится порабощением человека, если машине не дать эквивалент нравственности.

не рекомендую смотреть так много голливудских фильмов перед сном =)

>А как мы его можем ей дать, если сами достаточно развитой нравственности, способной идентифицировать разумную машину, не имеем?

валяюсь под стулом. честно. Ты хочешь дать машине эмоции (нравственность - это способность сопереживать прежде всего), мотивируя это тем, что способность машины отличать добро от зла спасет человечестно; и при этом совершенно игнорируешь тот факт, что именно эмоции у машин могут привести к "освободительной войне".

В точку. Не важно, свободна ли машина по существу, важно, если ее поведение с точки зрения человека _неотличимо_ от поведения человека. А этого добиться не так уж и сложно.

Мы уже не можем программировать все эти гномы, кде, десктопы, виндовсы, макоси, сетевые протоколы и т.п. Человек уносит свою, очень ценную, базу знаний в могилу. Это катастрофа. Энтротия техносферы увеличивается. Либо машина научится развиваться самостоятельно, либо у нее нет будущего.

>Я скажу так -- свобода нужна когнитивному алгоритму, иначе он не сможет выполнять структурирование информации и нельзя будет формировать достаточно сложные программы поведения

вызывающе неверная информация. для выполнения команды "помой посуду и пропылесось комнату" никакая свобода не нужна.

>Если мы хотим создать машину, хотя бы немного автономную по отношению к человеку (именно такие нужны), нам придется дать ей способность свободы.

и снова вызывающе неверная информация. Во первых, такие не нужны. Нужны машины, способные выполнять приказ.

Имеется в виду -- нет будущего, кроме как веб-броузера.

>Мы уже не можем программировать все эти гномы

мне кажется, svu тут с тобой не согласится.

>Человек уносит свою, очень ценную, базу знаний в могилу

месье не в курсе о наличии книг, журналов, университетов, интернета, в конце-концов? =)

>Либо машина научится развиваться самостоятельно, либо у нее нет будущего.

бинго! снова "вызывающе неверная информация" =)

ps: ты слишком всё усложняешь и высасываешь проблему из пальца. Я сильно сомневаюсь, что у тебя получится что-то большее, чем очередная Alice. Разум к нравственности и эмоциям не имеет никакого отношения.

ps: бритва Оккама рулит нипадецки

Почему же вызывающе неверная ? :)

Или машина научится программировать себя сама, или программировать ее под особенности каждого хозяина будет некому. Ирония понятна?

Давай разделим робота на компьютер и манипуляторы.

Думаю манипуляторы (тело) можно смело выносить за скобки, в данном контексте это нас не интересует.

В отношении компьютера можно говорить о обработке (структурировании, интерпретации) информации. В нашем случае комп будет направлять манипуляторы, и это будет поведением. Например - промышленный робот. Но с этим - и так все понятно. Или - андроид игрушка. Но если у людей наконец мозги встанут на место, то такие игрушки не понадобятся.

> Человек уносит свою, очень ценную, базу знаний в могилу

Вот если ты думаешь об этом, то не забивай себе голову "свободами". Это - дело компа, которому поведение не нужно.

За сим вынужден уйти. появлюсь через час.

> Или машина научится программировать себя сама,

Десктоп - ненужен

интерфейс - ненужен :)

Все (то есть - вообще _все_) что нужно от вычислительной машины - ответ на вопрос(ы).

>Или машина научится программировать себя сама, или программировать ее под особенности каждого хозяина будет некому. Ирония понятна?

мля

кто тебе сказал, что их надо будет программировать вообще? =) Это же РАЗУМ. Если тебе так понятнее будет, то скажу что РАЗУМ - это универсальный ГЕНЕТИЧЕСКИЙ алгоритм =) Его не надо программировать. Он САМ методом ПРОБ И ОШИБОК вырабатывает оптимальные стратегии для той или иной задачи.

>то нужно от вычислительной машины - ответ на вопрос(ы).

Если мы будем требовать от машин всё более сложные и развернутые ответы на воспросы, мы должны будем дать ей человеческий способ поиска ответов на вопросы (со всеми вытекающими последствиями). В противном случае -- google -- это всё, на что _реально_ способны машины. имхо.

>мы должны будем дать ей человеческий способ поиска ответов на вопросы (со всеми вытекающими последствиями)

опиши "человеческий способ" и "вытекающие последствия". Желательно без бреда про свободу =)

Вот именно. Именно из-за особенностей генетического (стохастического) алгоритма, машина в ответ на приказ "поставь чайник!" вкажет "Не хочу!". И три закона роботехники здесь не помогут. В реальности они работать не будут. Потому что в реальности не будет чистой продукционной машины. Как человек обходит собственное супер-эго, так и машина в конечном итоге найдет путь обхода любых ограничений, если этого будет требовать контекст текущей задачи. Контекст этот будет формировать вовсе не человек, это следствие обусловленного поведения.

Опишу, на сколько он мне известен. Но давай сначала определимся с "бредом про свободу". Что тебе не понравилось?

> Коллективное бессознательное эта одинаковая база знаний о среде, генерируемая разными людьми. Так?

Было замечено, что у разных людей появляются одинаковые образы. В таких случаях, когда взаимовлияние исключено. Общий источник - тоже. Такие образы были названы архетипами. Архетипы сравнивали с осями кристалла (направлениями кристаллизации). Из всех неудачных сравнений, это - наименее неудачное. Осей кристалла - не существует (как земной оси), это условность.

Несколько похожа история с сюжетами сказок. Существуют сюжеты которые появлялись в различных культурах, когда взаимовлияние было заведомо исключено. Но здесь - понять проще, сказка описывает ограниченное количество отношений людей (мачеха и падчерица, и т.д.). Аналогично если структура знания указывает что должно существовать какое-то явление, то даже если мы с ним не сталкиваемся - образ у нас может существовать. Интуитивно - мы о нем знаем. Так планеты или элементарные частицы вычисляются "на кончике пера".

> Если мы будем требовать от машин всё более сложные и развернутые ответы на воспросы, мы должны будем дать ей человеческий способ поиска ответов на вопросы

В некотором смысле - да. Либо мы вселяем в машину душу, и она ищет ответы. Либо мы познаем мир, и вкладываем основу знания, философский камень в машину.

Я предполагаю второй вариант. В частности потому что не считаю реальным замутить что-то "крутое-крутое" такое что "непонятно, но здорово", и оно - само - огого...

>Вот именно. Именно из-за особенностей генетического (стохастического) алгоритма, машина в ответ на приказ "поставь чайник!" вкажет "Не хочу!".

с какого перепугу? прекрати наделять машину человеческими качествами. Я понимаю, что ты выучил много умных слов, но это ни на йоту не приблизило тебя к пониманию того, как именно работает сознание.

>Как человек обходит собственное супер-эго, так и машина в конечном итоге найдет путь обхода любых ограничений, если этого будет требовать контекст текущей задачи

я уже сказал, если машине поставить задачу уничтожить всё живое - то естессно, она эту задачу попытается выполнить.

>Контекст этот будет формировать вовсе не человек, это следствие обусловленного поведения.

контекст задачи формируется на базе опыта. Т.е. машина будет действовать так, как её НАУЧИЛИ.

Мы здесь неявно столкнулись с известной психофизической проблемой -- соотношение физического и духовного (психического) в человеке. Решения "от психики" эта проблема, скорее всего, не имеет в силу существования бессознантельного -- обширнейшего пласта психики, не представленного в сознании и не доступного интроспекции.

Путь "от физиологии" стал реально возможен только в последнее (20-40 лет время). При этом подходе изучается работа мозга, поведение его компонентов, исходя из которых строится поведение всей системы (психики) в целом. Полученная модель сопоставляется с известной феноменологией человека, и они оказываются очень похожими.

Сказать, что мозг -- это конечный автомат (компьютер) нельзя. Физики говорят, что механисцизм уже не актуален в силу существования квантовой механики. Онако на макроуровне динамики мозга обнаруживаются элементы (решения), свойственные разнообразным алгоритмическим системам: здесь и детерминированный (переборный) поиск и стохастический и эвристический -- система внимания. Объединение этих элементов в систему дает тьюринг-полный вычислитель. А тьюринг-полнота и тьюринг-эквивалентность мозгового уровня позволяет делать прямые и обратные утверждения относительно "психического" уровня.

Но, похоже, я разошелся и меня уже просят "ответить за базар" :) Помнишь мой main.pdf? Я сильно преработал и почти закончил первую главу, а во второй теперь пойдут конкретные алгоритмы, но ее там не будет еще примерно год, по крайней мере до выхода публикаций (дисер всё-таки).

>Но давай сначала определимся с "бредом про свободу". Что тебе не понравилось?

ты утверждаешь, что ИИ требует какой-то мифической свободы для своей работы. Так что понятие свободы в студию и обоснование необходимости этой "свободы" для машины.

>контекст задачи формируется на базе опыта. Т.е. машина будет действовать так, как её НАУЧИЛИ.

lib.ru/STERLINGB/roj.txt

>Сказать, что мозг -- это конечный автомат (компьютер) нельзя

можно. Собсно, человек при поиске алгоритмов решения задачи использует свой _опыт_ в сочетании с банальным сравнением и перебором.

2 aist1

Я тут немного пропустил, к сожалению. Материализм имеет много удачных положений (за исключением главного понятия, которое лишено конкретики). Я говорил про приобретение идей в процессе общественных отношений. Какая то часть из этого явно относится к области сознательного.

Меня интересует(в рамках уже немного забытого нашего разговора) процесс передачи идей, растворенных в атмосфере общественной жизни, к конкретному человеку. И методика , о которой я говорил, подходит для этого максимально. Все, что относится к КБ, это может и глубокое влияние, но косвенное.

>lib.ru/STERLINGB/roj.txt

"нет сынок, это фантастика". Кроме того, разве у робота из этой книги есть свобода воли? Вовсе нет.

2 geek

Я хочу сделать два на первый взгляд противоречивых заявления. Первое, я считаю, что мышление часто именно перебор и поиск, как в Гугле.

Теперь скажу вторую часть. Этим алгоритмом, нового не придумаешь.

Насчет свободы(налиюие альтернатив, если угодно), смотри на несколько страниц выше, когда я говорил про энтропию.