>Когда все части будут собраны, теоретически CCortex должен достигнуть >пиковой производительности в 4,800 Gflops, что сделает его лучшим среди >20 мощнейших компьютеров на земле. Иными словами, он станет самым быстрым компьтером на Земле? Хе-хе...

>Когда все части будут собраны, теоретически CCortex должен достигнуть пиковой производительности в 4,800 Gflops, что сделает его лучшим среди 20 мощнейших компьютеров на земле.

Иными словами, он станет самым быстрым компьтером на Земле? Хе-хе...

Priam Skynet pod Linux budet :)))

>Priam Skynet pod Linux budet :)))

хрен там скайнет.. :)
Eго еще научить надо.. одно дело 20 миллиардов нейронов, а другое что там по ним бегать будет.
Возьмите любого бомжа с его миллиардами нейронов - сильно он на скайнет похож?

Re:Самая крупная нейронная сеть будет работать под Linux

> Возьмите любого бомжа с его миллиардами нейронов - сильно он на скайнет похож?

Нет, этот бомж в принципе лучше любого компьютера на земле :) Нейроны нужно еще правильно связать... а эти ребята даже Павлова не читали, а уже собрались моделированием заниматься :)

> а эти ребята даже Павлова не читали, а уже собрались моделированием заниматься

и я об этом..
Ну допустим они знают Павлова и много чего другого о работе мозга, но одного знания ботаники и биологии недостаточно чтобы получить апельсиновый сок без апельсина. Чтобы заполнить все это нейронное пространство полезным содержанием потребуется гораздо больше работы чем свезти в одно место кучу железа. Вообще говоря не думаю что это вообще задача решаемая. В конце концов самым прагматичным работающим решением будет взять живой образец - просканировать и воспроизвести в электронном виде. Фактически это будет пересадка сознания в новую оболочку - сама же суть его устройства и принципов работы так и останется за кадром непознанной и неподконтрольной. Люди любят быстрые решения сложных вопросов, так что скорее всего так и произойдет. Cознание так и останется вещью в себе, зато на каждом углу будут кричать о том что вот наконец человек создал искусственный разум. На самом деле он просто поучит электронный слепок самого себя. Думаю технически это вполне осуществимо.

Да-да .. Инетересно как ты себе представляешь 'сканирование мозга' ?

Там написано шо всё это на СЛАКЕ !!!

> Чтобы заполнить все это нейронное пространство полезным содержанием потребуется гораздо больше работы чем свезти в одно место кучу железа.
> Вообще говоря не думаю что это вообще задача решаемая.
Особенностью нейронных сетей является возможность самоорганизации.
Фактически это означает, что созданный ими макет мозга будет способен
обучаться сам.
Это в комп ты должен заложить программу, по которой он будет работать.
В случае же с нейронными сетями, нужно только подавать некоторую
информацию, и сеть со временем должна научиться на неё как-то
реагировать (можно ещё скорректировать эту реакцию с помощью
управляющих воздействий - так называемое обучение с учителем).
Именно по этому того, что они делают, должно быть достаточно чтобы
начать. А уж чему, и главное, насколько эффективно эта сеть будет
обучаться - это мы и увидим (если они результаты будут публиковать).
Я полагаю, сеть с таким количеством слоёв, нейронов и связей как у
них, должна обучаться весьма эффективно...

>> Там написано шо всё это на СЛАКЕ !!!
>> anonymous (*) (04.10.2003 22:05:33)

что-то я не нашел там нигде, что это всё будет именно на слаке...

>>Кластер работает под Linux, с процессорами от Intel и AMD. Когда все части будут собраны, теоретически CCortex должен достигнуть пиковой производительности в 4,800 Gflops, что сделает его лучшим среди 20 мощнейших компьютеров на земле.

курите http://top500.org (на тему самых мощных, там еще нет редшторма и IBM еще не собрали свой кластер на Power5 который в районе 100 терафлоп делать будет, но 40 терафлоп уже давно на первом, так что сосет ваш кластер :-) гыгы

А вообще нахера делать попытки воссоздать подобие человека или мозга, когда он итак существует.

Лучше себя развивать.

Господа, вот Вы спорите как, а я использую эти нейронные сети. Для классификации данных. И вобщем если они на сием "мозге" будут свои модельки гонять, то я им завидую. Задача очень "жизненная". Но покупка такого магазина комьютеров (на фотке с полками ;) похожа на подход к RAY-трайсингу когда-то давно, когда 386 могли в реал-тайме только один луч оттрассировать. И мечтали о параллельных 320x200 процессорах.

Кста, снова про субж.

На такой махине хорошо моделировать взаимодействие первичных и вторичных зон коры больших полушарий при решении задач построения "образов" решений из ассоциаций-фрагментов долговременной памяти. С третичными зонами проблемки будут.

Но думаю, они в конце концов придут к обычному ячеистому автомату (ячейки -- корковые трубки).

Сорри, улетаю.

Хм... Интересно всё это, но...

Во-первых, РОБОТОВ (не важно каких - железных, биологических или кремниевых) гуманоидного типа на данном этапе развития технического прогресса строить попросту неразумно. Соответственно, столь же неразумно делать некоторое подобие человеческого мозга...

Во-вторых, чтобы сделать нейросеть "по образу и подобию" нужно этот "образ и подобие" предварительно досконально изучить... ;-) Сейчас же получается такая фигня, что быстрее полностью построить виртуальный организм на основе расшифрованной ДНК, чем смоделировать мозг хотя бы рыбы. ;-)

В-третьих, есть пытка такая: человека загоняют в камеру, где абсолютно темно, где нет никаких звуков, где стены (в том числе потолок и пол) обиты очень мягким материалом (как вариант: запихивают в кокон, который опускают в воду)... В общем, сделано всё, чтобы мозг получал минимум информации. Результат: даже очень психически закаленный человек сходит с ума в течении недели... Лично на мой взгляд, эксперимент по созданию такой сложной нейросети обречен на провал по той же причине: слишком мало информации.

В-четвертых: человек (да, в общем-то, любое достаточно высокоорганизованное животное... те же рыбы, к примеру) - существо общественное. Обучение человека происходит под давлением огромного количества зачастую противоречивых факторов (что, кстати, заставляет человека делать выбор...) Впихивание в человека (кстати, даже вполне взрослого) "непререкаемых истин" делает из него полного идиота, неспособного мыслить самостоятельно (конкретный пример: Антихрист и "Теория оносительности"). То же самое произойдет и с нейронной сетью подобной сложности: никакого зачатка "сознания" у неё не появится (и появится не сможет) до тех пор, пока она не научится выбирать между несколькими противоречивыми фактами одинаковой степени достоверности.

В общем, пока что всё. Есть ещё мысли по этому поводу, но напишу позднее.

Пожалуйста, не надо отвечать на этот постинг в стиле: "а вот теория сходимости нейросетей за полиноминальное время всему этому противоречит". Ибо:

В-пятых: для создания "виртуального" разума нужно сначала создать философскую теорию существования оного. Без этой теории создать РАЗУМ не получится: математики реализуют свою математическую МОДЕЛЬ (опять же, модель непонятно чего. Без философской теории это будет модель пустого места), но не более того.

2R00T (*) (06.10.2003 21:42:18)

Если модель научится строить модели, включая свою, вне зависимости от полноты/достоверности, и оперировать их сущностями в рамках принятых/заложенных ею правил, и, в результате, адекватно отражать/моделировать сущности своего "доступного" мира - то это разум.

:-)

>Но думаю, они в конце концов придут к обычному ячеистому автомату (ячейки -- корковые трубки).

Бытует мнение что "мясная" имплементация (наша родимая нейросеть имплементированная "в мясе" - в нас) - это бэта версия которая неэффективна.
Любая хорошо/быстро сходящаяся к нужным решениям (каким? кто определит?) - будет более эффективной хотя бы по времени жизни - "не нытьём так катаньем" :)
любой архитектуры (если она рекурсивна и самоорганизующаяся, т.е. может самооптимизироваться).
Машины рулят короче ;)

извиняюсь за ошибки/недописки.
"любой архитектуры достаточно" - имелось в виду в последнем постинге.


насчёт нужности введения _всех_ методов познания (философский+религиозный+научный+искусство итд) - ортогональных между собой - согласен. Иначе модель не полна изначально.
Это если кто-то гомункулюса вздумал ваять
а не автомат сортирующий фотки или игрушку .
В любом случае всё учтено не будет и глюки могут быть - мало не покажется. Потому надо дорабатывать первые постулаты робототехники ;), дополнить.
Некоторые правда предпочитают не рисковать (письмо Била Джоя). Те же вопросы стоят и в генетике.

дополню свой постинг от anonymous (*) (06.10.2003 22:16:45).

кто сказал что мат. логики достаточно для мышления?
мат. пакеты доказывающие теоремы существуют но это кому-то может показаться не большим мышлением чем вывод программы выплёвывающей случайно слова и фразы (противоположная вещь как-бы). А папуасу вывод первой системы будет мусором а вторая - большим смыслом.
Моделировать мозг кого будем?
Смоделировать можно всё. Опять же - каковы цели, ценность и кто определит.

На самом деле мы бросились обсуждать чуть ли не смысл жизни здесь и это по-человечески понятно, но причина тому - слишком громкие слова и амбициозные цели высказанные в сабже. Я бы посоветовал им: "скромнее надо быть, товарищи!"

Anode

>Если модель научится строить модели, включая свою, вне зависимости от полноты/достоверности, и оперировать их сущностями в рамках принятых/заложенных ею правил, и, в результате, адекватно отражать/моделировать сущности своего "доступного" мира - то это разум.

хорошее определение, но опять же: кто и по каким критериям определяет цель и адекватность модели. Это открытая система.

вирус: набор правил, размножается, удовлетворяет определению при умном программировании реакции на антивирусы (может самоизменяться, перекодироваться - если надо).
Кстати Хоукинг кажется назвал вирусы началом искуственного разума?


Anode

> CCortex adds to classical Hebbian connections a time-sensitive, analog representation of the shape of “spikes,” the pulsing patterns that enable neuron populations to communicate with each other. This allows CCortex to tune vast populations of neurons and the information they hold to complex spiking patterns, adding a much higher level of complexity to a highly realistic simulation.

Похоже ребята собираются эмулировать временно-импульсную модель реального нейрона :)

>The CCortex software emulation applies its Spiking Neuron Software Engine to a database that has a representation of the layered distribution of neural nets and detailed interconnections in the brain. The data closely emulates specialized regions of the human cortex, corpus callosum, anterior commissure, amygdale and hippocampus.

На сколько я понял, речь идет об эмуляции и исследовании первичных зон коры + может быть некоторые вторичные (они не говорят) и древнейшую эмоциональную систему + первичную кратковременную память (гиппокампус). Гипоталамуса нет, третичных зон коры нет. Лоботомированное животное, короче, да еще и без физиологических мотиваций. У него не будет цели, направляющего фактора самоорганизации.

2Anode /anonymous (*) (06.10.2003 22:54:16)/

> хорошее определение

Спасибо, на добром слове... генерировал "на лету" для обощения определния "разумности"/или "степеней разумности", потом уже думал, не ошибся ли где... :-)

> кто и по каким критериям определяет цель и адекватность модели.

Цели, как таковой, может и не существовать.

Абсолютные критерии адекватности, например: выжил/не выжил, etc

> Это открытая система.

Не согласен. Т.е. хотите сказать, что закон сохранения чего-то неприменим и мы имеем "игру с бесконечной суммой" ?

А наши проблемы с экологией, перенаселением, голодом, ресурсами, etc ?

> Хоукинг кажется назвал вирусы началом искуственного разума

Он осознает "доступный мир", себя в этом мире, анализирует сущности и соотносит их свойства и взаимосвязи, свойства их сочетаний, способен использовать "свой опыт" для выживания в иных условиях? Скорее, уже, не "разума", а "жизни"... это разные понятия.

Кора (больших полушарий) имеет шестислойную структуру, на что обычно указывают сторонники нейросетевого подхода. Но кроме этого, она еще имеет выраженную колончатую организацию не зависимо от локализации (полушария или подкорка). Связей между нейронами внутри колонок гораздо больше, чем между колонками. Колонка - минимальная единица активности коры примерно так, как логический элемент (а нейрон - это транзистор) - единица активности ЭВМ. В этом плане кора по модели своего функционирования ближе к Cellular Automata (CA), чем к традиционным слоистым ИНС. Кста, CA, начиная с определенной структуры эквивалентны машине Тьюринга. Кора -- основной вычислитель мозга -- разделена на зоны: первичные, вторичные и третичные. Первичные зоны принимают сигналы от нервных трактов, выделяя примитивы (линии, углы, движущиеся линии, повороты и т.п. в случае зрительной коры). Они не способны выделять сложные образы. Их распознавание происходит с участием вторичных (ассоциативных) зон, объединяющий связями (ассоциациями) центры активности в первичных (и вторичных) зонах. Модель рекуррентная.

Наиболее интересны третичные зоны, локализованные в лобных долях. Они ответственны за формирование мотивационных сетей, за последовательности действий, во время которых происходит переключение внимания с одного объекта на другой. Третичные зоны коры связаны со вторичными тормозящими связями. Активность лобных долей сопровождается торможением обширных областей вторичных зон (а значит, и первичных). Этот процесс называют концентрацией внимания. Еще он сопровождается активацией незаторможенных участков вторичных и первичных зон посредством ретикулярной формации. При этом в них начинается активный "перебор вариантов" возбуждения-торможения относительно состояния соседних колонок. Колонок не так много -- "всего" около 500 млн. Есть еще макроколонки - более сложные образования.

Каждой концентрации внимания соответствует свой "контекст восприятия", который ограничивает множество воспринимаемых образов, сужая тем самым перебор вариантов. Третичные зоны функционируют как конечный автомат, переключая за счет тормозящих связей направление (в смысле множества допустимых объектов восприятия) действия внимания. Другая зона ответственности третичных зон -- мотивации, как физиологически обусловленные, так и чисто идеальные. А сами по себе мотивации -- фрагменты ассоциативных графов, описывающих последовательности концентраций внимания для достижения объекта мотивации. Это про контексты. Каждому узлу ассоциативного графа, хранимого в третичных зонах соответсвует свой контекст восприятия.

А про субж. На сколько я знаю, колончатая модель функционирования коры на текущий момент досточно популярна. При моделировании на уровне колонок нет необходимости резервировать ресурсы под все эти нейроны точно так же как в разных пакетах логические схемы моделируют на уровне ключей и не заморачиваются транзисторами. Колонок "всего" около полумиллиарда. Если же моделировать на уровне нейронов, да еще во время-импульсной области, то тогда на один нейрон будет уходить _очень_ много ресурсов, веди у него иногда до нескольких тысяч синапсов :)

всё равно что-нить не учтут - и всё насмарку.
Нейросеть может иметь любую другую архитектуру и если та другая будет проще (чем имплементированная "на мясе") и работает аналогично - зачем надрываться пытаясь сделать природный аналог?
Пример - колесо. Искуственные ноги не так распространены а колёса (не использующиеся природой) - гораздо более эффективны.

Однако двуногая ходьба позволяет добиться большей проходимости, а для колеса нужно дороги строить (хотя конечно скорость больше). Так же и с современными компьютерами: для некоторых немногочисленных задач скорость просто запредельная, а с "проходимостью" дело неважно.

Хотя, конечно, с мыслью о вредности слепого копирования природы я согласен. Тем более если человек все-таки описывается Машиной Тьюринга.

Что касается субжа, то тут где-то звучала мысль, что это просто отмывание денег, ну и еще получение на этом некоторой известности. Будь я инвестором, у меня бы они на такое денег бы не получили. Ведь их "мозг" даже не имеет мотивационной системы, т.е. той подсистемы мозга, которая "вырабатывает" организующие воздействия для всех остальных подсистем. М.б. они хотят смоделировать какие-то частные аспекты деятельности мозга, например кора --- двигательняая_подкорка, но для этого в их сети не будет первоначальных данных. Лоботомированные люди и животные способны усваивать новый опыт, но не способны вырабатывать его (при повреждении гиппокампа -- наоборот).

да, но некоторые "ноги" нам природой не даны (крылья или большие скорости) вот я и думаю что и для мышления человек ограничен (время жизни, скорость по нейрону - порядка метра в секунду(?) итд)
А для дальнейшего осмысления сложных вещей природа толкает нас на следующий качественный рывок - экстендить себя. Посмотрите - вон Норвиг (английский столп в ИИ) чипы себе давно уже вживляет :)

> что это просто отмывание денег

большое количество железок призвано имхо доказать обывателю (читай - инвестору) серьёзность намеряний. Денга щас выведена с рынка и обыватель ищет чо-нить не похожее на дот-ком по форме.
Я просто ополчился против 1) уверенности в успех - из некомпетенции или 2) чо-то нечистое (см. деньги уже потраченные на железки) - зная сложность и вероятность нулевого результата.

Anode

Чипы его не расширят понастоящему. Любой чип даст только полиномиальное увеличение вычислительной мощности. А вот решение проблемы NP=?=P в сторону NP=P коренным образом изменит цивилизацию. Извлечение или вывод любых новых знаний (доказательство теорем) станет возможен за секунды. можно будет найти решение почти всех глобальных проблем современности.

Другое направление -- интеграция человека и машины в плане обмена информацией. так, например, уже возможно по МРТ-снимкам активности коры "угадывать" предмет мышления (стол, стул, человек и т.п.) или управлять посредством E-волн инвалидным креслом. Думаю, технически осуществима и обратная задача -- проецирование синтетических образов прямо в кратковременную память, минуя органы чувств. телепатия туда-сюда, короче. Думаю, это будет реально. Прикинте, сотовый телефон, по которому разговариваешь мслями :)

полностью разделяю :)

>Прикинте, сотовый телефон, по которому разговариваешь мслями

вот только не это!
Мысли показанные на экране - это сильно!

Многие там против показа генотипа. Ну там-то ладно - тебя родили - ты не виноват что есть там баги, но бред моих мыслей показывать 8()
Лучше сразу в тюрьму или дурдом, но чтобы не позориться по-крайней мере перед детьми :)

> 1) уверенности в успех - из некомпетенции или 2) чо-то нечистое (см. деньги уже потраченные на железки) - зная сложность и вероятность нулевого результата.

Вероятность и 1) и 2) весьма велика.

.

Кстати, о подходах к реализации: мне понравился, например, такой принцип:

http://www.compassplus.ru/cgi-frames/frames.cgi@d=2_system_technologies/&m=f lora.html

Скажу сразу: не пробовал. Но идеи интересные. Особенно, если на кластерах.

пардон (лишний пробел=f%20lora), еще раз:

http://www.compassplus.ru/cgi-frames/frames.cgi@d=2_system_technologies/&m=f lora.html

для м-м-м... посмотреть: объекты, распарралеливание, и т.д.

:-)

линк брейкнутый. Чесно гря неохота по линкам ходить. Можно кратко словами?

FloraWare

> Можно кратко словами?

многовато, конечно, ну, ладно (заранее прошу прощения):

FloraWare разрабатывалась как объектно-ориентированная система автоматизации разработки программ широкого класса - от обработки событий реального времени и массовых потоков транзакций до визуализации объектов реального мира и диалогового доступа к базами данных.

В основе идеологии архитектуры FloraWare лежит нелинейная структура памяти, организованная в виде дерева объектов (Objects Tree), узлами которого могут быть элементарные типы данных и производные от них, встроенные объекты, пользовательские объекты, программы и задачи. Управление деревом объектов выполняется объектной машиной (Objects Engine).

Какие-либо этапы перехода приложения из стадии разработки в стадию исполнения концептуально отсутствуют. Свойства дерева объектов приложения сохраняются даже в процессе исполнения и могут быть доступны в том же виде, в котором они были созданы разработчиком.

Любой элемент или группа элементов объектного дерева может быть отдельной задачей. Возникающие коллизии решаются автоматически с помощью встроенных средств объектной машины. С целью эффективной организации асинхронной обработки событий в задачах разработан специальный класс объектов, называемый рефлексами.

Создание мультизадачных приложений в технологии FloraWare является правилом, а не исключением, как это обычно принято. Даже в приложениях среднего размера может порождаться несколько десятков и даже сотен параллельно исполняемых задач.

Инстанции FloraWare могут исполняться на разных процессорах, серверах или узлах кластерной платформы. Взаимодействие элементов дерева объектов одной инстанции с элементами другой инстанции осуществляется с помощью специальных сетевых средств (FloraWare Net), поддерживаемых объектной машиной.

Основной элемент архитектуры - дерево взаимодействующих объектов (Object Tree) содержит не только прикладные объекты разрабатываемой пользователем программной системы, но также - все системные объекты: устройства ввода/вывода, стартовую панель, буфер обмена данными, системные переменные, функции и библиотеки, содержащие системные и прикладные объекты FloraWare, с помощью которых строятся приложения и т.д. Более того, дерево объектов содержит также и все инструментальные приложения самой системы программирования FloraWare, в том числе: Дизайнер, Отладчик, Редактор графических объектов и другие, также разработанные в технологии FloraWare на базе одних и тех же системных и прикладных библиотечных объектов.

Разработчик может также использовать встроенный язык программирования F++, который синтаксически подобен C++ и Java и включает стандартный набор объектных расширений языка, конструкции структурного программирования (такие как if, switch, for, while), все операторы языка C++ и т.д.

В настоящее время FloraWare и её приложения могут исполняться под управлением следующих операционных систем: Windows 98, Windows NT (2000), Linux, UnixWare, Sun Solaris, QNX.

.

В общем, немного похоже на forth, только графическая и распарралеливающая система.

Предлагаю завершить на сегодня обсуждение :) Не против? Завтра я целый день на работе и до инета вряд-ли дорвусь. В пятницу буду свободней. Ели есть еще интерес, aist1@mail.ru либо форум.

Замечательно.

Я получил огромное удовольствие от беседы с Вами.

:-)

Я тоже. До сидания :)

Кстати, некоторые идеи действительно удивительно легко (без внешней помощи) овладевают массами. Такие идеи можно сравнить с вирусами.

Возможно с помощью моделирования можно выделить некоторые характерные черты вирусоподобных идей. Наверное маркетологи бы за это неплохо заплатили. Представьте: им приходится постоянно подогревать интерес к товару, тратить громадные бюджеты на рекламу и т.д. А если формировать спрос с помощью вирусоподобной идеи, то солидная экономия получается.

Кстати, есть несколько стадий толкиенутости:

1) Прочитал - понравилось 2) Толкиенулся сам - толкиени другого 3) Я вчера хоббита видел... 4) А все-таки Толкиен был неправ. Все было совершенно иначе!!!

> Кстати, некоторые идеи действительно удивительно легко (без внешней помощи) овладевают массами. Такие идеи можно сравнить с вирусами.

Любые измышления, оперирующие или приводящие к понятию "выгода", можно считать вирусом?

У Достоевского было такое правило: "Трать деньги только на необходимое или приятное"

:-)