1) Не надо придавать слишком большое значение, или как либо идеализировать, мышление.

2) Надо понять что ты хочешь от мышления.

3) Надо понять что такое мышление.

А нейросети тут вообще ни к чему.

А нейросети тут вообще ни к чему

Согласен. Но есть много нейросетефилов которые не согласны.

Хочу услышать и их мнение.

Спорный вопрос, только ли люди могут мыслить. И раньше и сейчас найдутся те, кто считает, что человек - это единственное существо (по крайней мере, на планете Земля), обладающее способностью мыслить.

Если «мыслить», это способность решать абстрактные задачи, то животные этим владеют. Другое дело, что все задачи животных в основном направлены на «достать пожрать». Человек в этом плане уникален тем, что из-за социальных структур освбождается время.

В остальном мысли таковы, что способ работы железного AI не должен быть таким же как и у мягких мозговых ошметочков - нейроны работают совсем иначе, не при помощи 1 и 0. Но поскольку единственный пример интеллекта, с которым мы знакомы, это то, что находится в черепушках, неплохо бы сначала понять принципы его работы и что же позволяет ему абстрактно мыслить. Все нынешние «AI» это по сути дураки с фильтрами, тренирующие эти фильтры на реальных данных. Такие системы в мозгах тоже есть, но они задействованы на органах чувств.

И в заключение я вброшу вопрос, от которого у меня всегда зудело во всей этой нехрохрени (почему я не пошел на экологию или зоологию?): я искал но так и не нашел ответа, как в мозгах хранится информация. Да, обычный ответ будет «через усиление синаптических связей». Но ведь в мозгах нет харда, как в компах. И даже оперативки в таком понятии нет. Вся система хранения и обработки информации в мозгах это лишь совокупность сигналов шныряющих по всему мозгу. Как это преобразуется в информаци и обрабатывается, никто не знает. Я часто говорил с коллегами по цеху и у меня такое ощущение, что это для многих вопрос из серии «лучше об этом не думать». Работа нейробиологов актуально похожа на следующий пример: представь, что у тебя есть микросхема, реализующая радиоприемник. И вот ты вытаскивашь их него там одно сопротивление, долго его изучаешь. Рассматриваешь под электронным микроскопом. Потом ты нашел еще какую какую хрень. Потом может догадался что эта хрень, эта хрень и эта вместе - фильтр. А если включить ее в розетку, то вот этот и этот элемент нагревается - видишь там на инфракрасной камере видно! Но ты все еще не понимаешь, что эта вот схема делает, ибо не имеешь никакого понятия о радиоволнах вообще. Вот это и есть нейробиология. Все на уровне «а давайте ткнем сюда, может что сломается и тогда мы об этом статью напишем». Очень сложно работать в отрасли, в которой нет общей базовой теории.

Но ведь в мозгах нет харда, как в компах

А почему собственно нет? Ведь есть разграничение на ареалы, которые занимаются одной работой. Значит, по идее, должен быть ареал, который хранит информацию. Возможно несколько связанные с обработкой какой-то «одной» информации. Все остальные органы тоже ведь занимаются «своим» делом.

Позитронный и больцмановский мозги благославляют этот тред, бесцветные зеленые идеи яростно сня.

Человек те же задачи, что и животные решает, по тому же принципу, только менее наивен.

ЗЫ

По теме надо полностью однозначно описать что такое мышление, иначе непонятно, что делать надо. Потому и не выходит с ИИ (не считая частных случаев, вроде игровых ИИ) ничего.

PPS

Если я не путаю, то при травмах определённых частей мозга отшибает долгосрочную память, а при травмах других частей мозга краткосрочную.

Ну потому, что у мозга нет никакого способа хранить информацию в духе «записал, выключил питание и забыл». Информация - это совокупность электрических сигналов и связей между клетками. Вдумайся в это. Это как комп, который хранил и обрабатывал бы информацию, отращивая и закрывая себе дорожки на схемах. Что такое возможно - у нас есть эмпирический пруф. Алгоритм работы этого нам не известен.

Если я не путаю, то при травмах определённых частей мозга отшибает долгосрочную память, а при травмах других частей мозга краткосрочную.

Это так, но это значит лишь, что определенная информация идет через эти узлы, а не то, что она там хранится. Занимательная история при всех этих инсультах - они обходимы из-за пластичности мозга. У меня был у бабушки. И суть в том, что особенно при мелких нарушениях в речи, моторике, whatever - а после пары дней симптомы могут целиком исчезнуть, так как происходит т.н. rewiring. В мозгах есть свои информационные магистрали и центры обработки, но это не значит, что информация хранится именно там. Занятные были исследования, которые подтвердили, что у слепых, например, аудиторный кортекс начинает расширяться за счет ненужного визуального. О таких примерах пластичности мы говорим.

Это как комп, который хранил и обрабатывал бы информацию, отращивая и закрывая себе дорожки на схемах

Как бы да, вроде ничего такого противоречащего нет.

Даже круче, мкросхем в принципе нет либо они однотипные (нейроны что-ли?) и СБИС всякие конструируются (выращиваются) по ходу набора опыта. У каждого свои в зависимости от пережитых ощущений.

И получается что сохранённая информация - это структуры из нейронов и нервных волокон, они же и «вычисляторы», которые сравнивают образы и изменяются если образ не «срезонировала» с этой структурой. Срезонировала - делается более «крепкой».

И да, память у человека конечно жутко дырявая и очень субъективная.

Я приведу еще одну аналогию: в компутерах ты знаешь, что из себя представляет информация на базовом уровне: 1 и 0. Ты знаешь, как их цепочки преобразуются в другие виды данных, как они проходят про процессору, что он с ними делает и как они выводятся в другие виды информации - например, в изображение на твоем мониторе. В примере с мозгом, все что ты знаешь, это куски схемы процессора и принципы работы транзисторов ну и даже отдельных более сложных схем, которые они образуют. Ты также знаешь, что если ткнуть вот в этот вот кусок схемы шилом, то у тебя потом процессор будет выдавать вот такую вот ошибку. Это тебя нисколько не приблизило к вопросу, что такое информация, как она хранится и как обрабатывается. Это и есть current state в нейробиологии.

И да, память у человека конечно жутко дырявая и очень субъективная.

Память у человека перезаписывается с каждым вызовом ну и хранится, похоже, в каких-то очень общих чертах - для записи всего не хватает вычислительной мощи. Поэтому мозг ее при вызове дополняет выдуманной информацией.

. Информация - это совокупность электрических сигналов и связей между клетками. Вдумайся в это

Ну я ведь не предлагал наличие записи информации в виде 1/0. Я лишь предположил, что в мозге есть ареал, который хранит информацию в том или ином виде. Это и был бы «жёсткий диск». Тем более, что возможно потерять память независимо от работоспособности остальных структур мозга.

Информация - это совокупность электрических сигналов и связей между клетками.

Ну в компьютере информация это тоже не просто 1/0. Это всего лишь самый простой способ записи информации. Выше стоят структуры данных и алгоритмы. Скорее всего похожим образом обстоит дело и в мозге. Соединения между нейронами это способ записи информации. Нужно определить надлежащую структурную единицу(типа минимального кол-ва связей, нейронов для формирования).

Проблема в том, что reverse engineering сильно затруднён, - лоботомию людям особо не сделаешь, а животные не могут рассказать.

Где-то она обязана храниться (и не в отдельных клетках, иначе склероз будет просто ужасный, имя своё забудешь), иначе ты ничего не будешь помнить, вообще. Та же корка мозга не больно на магистраль похожа, даже по импульсной возбудимости.

Ну я ведь не предлагал наличие записи информации в виде 1/0. Я лишь предположил, что в мозге есть ареал, который хранит информацию в том или ином виде. Это и был бы «жёсткий диск». Тем более, что возможно потерять память независимо от работоспособности остальных структур мозга.

Ничего такого до сих пор не было найдено, поэтому уповать на это не стоит. Мозг - не комп, а сравнивают их потому, что компутеры это самое сложное из вычислительных устройств, произведенных человеком.

Ну в компьютере информация это тоже не просто 1/0. Это всего лишь самый простой способ записи информации.

Это то, как он ее хранит и обрабатывает. Это и есть его вычислительная база. Во что он ее превращает при вычислениях уже не играет никакой роли, это лишь вопрос мощности.

Обязана, и хранится. Но как?

Та же корка мозга не больно на магистраль похожа, даже по импульсной возбудимости.

Есть, есть, погугли про connectome, там много красивых картинок. Просто текущими методами это практически невозможно засечь, ибо всякие fMRI - беспомощные какашки.

Обязана, и хранится. Но как?

Повторить? В виде струтур. Это называется паттерны. Притом в мозге на одну и туже инфу есть много схожих паттернов (своеобразная избыточность хранения). Восновном наш мозг и забит схожими паттернами. Помним мы совсем мизер, но многократно. На случай травм и т.п. помогает.

что мы знаем о нейросетях?

все. простыню не читал, ИИ не будет.

Аминь :)

А что тут обсуждать вообще? Все вроде так, беда в отсутствии какой-либо теории работы разума. Ждем пока кто-нибудь случайно догадается или нейробиологи досконально разберут мозги.

По теме надо полностью однозначно описать что такое мышление

Моделирование

Моделирование чего? Можно ли считать моделирование работы магазина мышлением?

Не обязательно при травмах. Первое — маразмшклирос, второе — синдром Корсакова. Развивается от нехватки витамина B1, с голодухи например. «Травма», особенно не сильно избирательная, может приводить к наблюдениям вида «без ног не слышит» :)

Зависит от того, как мы согласимся использовать термины. И от того, как проводится это моделирование магазина.

Но это граничные условия, а они не имеют значения. Если мы хотим продублировать моделирование нашей ЦНС, то нам неважно где грань отличающая «ещё модель» от «уже не модели». Имеет смысл просто стремиться к максимально полной модели среды. И себя.

И магазин как пример простой модели не очень хороший выбор. Он сложен и незамкнут, если можно так выразиться.

Самого себя в том числе :) Ну и «базовой реальности» (то что ты «видишь», не совсем то что есть). Некоторые договариваются до того, что наблюдаемая реальность — это сон наяву, отталкиваясь от того, что сны — это проигрываение «потенциальных» реальностей, т.е. отработка сценариев «выживания» без набивания шышек ИРЛ.

Но это граничные условия, а они не имеют значения. Если мы хотим продублировать моделирование нашей ЦНС, то нам неважно где грань отличающая «ещё модель» от «уже не модели». Имеет смысл просто стремиться к максимально полной модели среды. И себя.

Лучшая модель чего-то в пределе — сам объект :)

А лучшая модель шланга — шланг.

Да чего угодно :) В той же робототехнике не «моделируют руку из мяса», а «оптимизируют целевую функцию». Не надо как говорится для оперативных целей кинуть в кого-то камнем, представлять себе его химический состав. Достаточно внешнего представления о «камне», «кидании» и «цели». Остальное — приближения. Методом тыка за 100500 тыщ лет с направлением отбора, куда «приспособляемость» дозволяет, как в эволюции, или методом анализа «законов полета камней». Ну только... слишком поверхностная модель может быть не очень похожа в итоге :) Как у конвергентных форм например.

А я где-то читал, что важны не только связи, но и электрическая активность. Мол, с рождения и до смерти происходит что-то вроде dram refresh цикла, который не останавливается даже в моменты потери сознания и при обратимых повреждениях. И что собственно смерть мозга это прекращение/распад такой активности. Выглядело логично, потому что не может же мозг протухнуть за несколько минут без питания. (Хотя с другой стороны говорят обмен веществ в нем адский и отравиться можно быстро.)

Это неправда?

электрическая активность.

Тогда бы люди умирали от того что в полуметре от них шарахнула молния, нэ?

Так то не. Но ведь и размышления не перекраивают нейронные связи, или когда я активно думаю, там таки кто-то объявляет перестройку?

Но ведь и размышления не перекраивают нейронные связи,

Не не, давай не мешать все в кучу, а то у тебя получится как у древних предков - раз молнию объяснить мы не можем значит ее мечет зевс.

Ну насчет активности все правда, пока клетки стреляют, они постоянно меняют связи - уменьшают, усиляют. Я уже говорил про память - вызов воспоминания меняет его. Опыты с вживлением false memory этим пользуются.

Что касается смерти, ммм, на самом деле мозг адски прожорлив. До четверти всего, что ты поедаешь уходит только на то, чтобы поддерживать его деятельность. И через пару минут кислородного голодания там действительно начинают умирать клетки. Так что он не тухнет, конечно, но превращается в хлам.

Задачи, решаемые ИНС, и задачи, решаемые разумом - это 2 большие разницы, как в Одессе говорят. Понимаете, нейросети ухватились за один аспект работы мозгового вещества и используют его. Это даже получается, имеет прикладное значение. Но никакого разума тут нет и не будет. Теория разума очень проста и последовательна. В широком смысле, задача, которую решает каждый живой организм - это ПОИСК. Поиск пожрать, поиск поспать, поиск познать. Так вот разум - это то, что за счет знаний, навыков и такого прочего оптимизирует этот поиск, который без них - просто метод тыка. Ну а как же? Эволюция - это тоже разум (достаточно посмотреть на ее творения) но до чего же медленный! Вот для того, чтобы убыстрить себя, она и придумала мозг, где знания накапливаются не от поколения к поколению, а от инцедента к инцеденту, при жизни. А дальше - пуще, изобрели язык с культуркой и знания, приемы стали загружиться в мозг от родителей к детям, чтобы на себе не приходилось все пробовать.. Моя мысль в том, что эволюция копирует себя в новый субстрат (мозг) и выбирает другой объект (т.е. эволюционируют уже не гены, а мысли, идеи) с «целью» убыстрения себя. Это мы и называем разумом, но почти никто не видит этой глубинной преемственности между эволюцией и мозгом. А ведь они решают одну и ту же задачу, да и методы те же.

Да, то есть нам нужно выделить существенное отбросив остальное. Остальное сложится из алфавита, который получится из отобранных элементов. Впрочем, сложится иерархия: ключевые понятия будут складывать чуть менее важные, из которых в свою очередь далее будут складываться более второстепенные.

Более того, сама структура отношений между элементами уже будет моделировать реальность. Язык, на котором ты говоришь, содержит прилагательные, глаголы, местоимения, неким образом отражая этим фактом структуру реальности.

уроборос

Проблема в том, что мы не можем отделить сознание от содержания сознания. Гонка ИИ похожа на желание змеи сожрать себя.

Я вижу. Более того, по результатам одного треда я стал убежден, что любая достаточно свободная система с обратной связью себя вполне четко осознает (только у нее может не быть ни одного из классических пяти+ чувств, а время примитивной реакции может измеряться в минутах/часах/днях/годах). Те же социумы, экономики и муравейники — они вроде бы построены из изначально одинаковых кирпичиков, но живут и развиваются в куда более широком смысле, и анализ отдельного кирпичика ничего не даст.

Мне вообще что-то подсказывает, что если мы сделаем полноценный ИИ, то заставить его работать вместо нас будет так же сложно, как и любое другое существо. Нефиг заниматься ерундой, проще изменять человечков, чтобы у них была потребность в таком симбиозе, причем можно это делать на уровне биологии, а можно на уровне психики и культуры. Как хорошо было бы привить разумному существу ценности, в которых оно само тебе будет производить ништяки и свято верить, что по-другому жить западло и надо терпеть невзгоды ради общего блага. Ох же щи.

Ох же щи.

а так хорошо тред начинался xD

Я не специально же, само вышло :[

Информация - это совокупность электрических сигналов и связей между клетками

То есть, единица информации это какая-то сложная функция топологии участвующих нейронов и силы импульсов между ними?

Предположительно да, точно этого никто не знает. О чем и тред, собственно.

Насколько я знаю, нейробиология сейчас рисует такую схему: порождённый сигнал затухает в нейросети по уникальному рисунку, каждый участвующий нейрон сохраняет в себе уровень заряда в качестве эталона. При подаче сигнала на входные нейроны происходит оживление рисунка образа. Когда сигнал промахивается мимо входных нейронов, активизируется не весь рисунок, а как получится. Если рисунок долго не использовался, уровень заряда в нейронах «сбивается».

я стал убежден, что любая достаточно свободная система с обратной связью себя вполне четко осознает

Что значит «свободная»?

Мне вот кажется, что сознание это результат так сказать суперпозиции всех мыслительных процессов - чем их больше, тем сильнее развито сознание, и нет какой-то черты, после которой можно определённо детектировать сознание вообще, потому что его и не существует, мы можем детектировать только сознание уровня человека. Возможно, что те же высшие животные сознают себя примерно так же, как человек сознаёт себя во сне.

. Возможно, что те же высшие животные сознают себя примерно так же, как человек сознаёт себя во сне.

А как себя осознают люди с низким/очень низким уровнем IQ? У них меньше сознания получается? Нужно выработать чёткое определение сознания, иначе можно в такие дебри скатиться...

А как себя осознают люди с низким/очень низким уровнем IQ? У них меньше сознания получается?

Да. Ведь согласитесь, что у людей с низким IQ снижены и способности к рефлексии?

Но что есть в данном случае уровень заряда? Synaptic weight? Проблема с четким понятием того, что отдельные нейроны делают в кол-ве связей и возможностях, которыми они могут менять сигнал. У тебя есть разные типы ионных каналов, у тебя есть дендриты, которые сами творят что хотят, вплоть до дендритных спайков, у тебя есть пре-синаптическая ингибиция и усиление, у тебя есть у млекопитающих еще и глиа-клетки, которые тоже добавляют перца в этот котел. Я думаю, что все это обречено на провал, пока нет возможности замерить одновременно активность всех нервных клеток в одном регионе, вплоть до отдельных спайков. Нужно выйти на уровень «вот эволюция сигнала в миллиарде клеток» с актуального уровня «вот так спайк проходит по аксону и лопает на пре-синапсе пузырьки с нейротрансмиттерами».

И опять же в твоем примере... все звучит красиво, пока не задашь себе вопрос такого толка: я вижу стул, как активность клеток преобразует образ в «стул» и знание о том, что на него можно сесть? Тут все относительно понятно только по пути в визуальном кортексе: там система фильтров, она раскладывает картинку на составные части и при определенной констеллации сигналов в разных фильтрах может звякнет где «это же стул, мать вашу!». А потом все. Дальше начинается магия.

Впрочем, IQ это всё-таки немного другое.

Ведь согласитесь, что у людей с низким IQ снижены и способности к рефлексии?

Можно ли поставить '=' между рефлексией и сознанием. Вдруг рефлексия это нечто похожее на талант. Есть же учённые, которые занимаются наукой ради науки не смотря ни на какие жертвы. С IQ у таких всё в порядке, а вот с рефлексией что-то не то.

я вижу стул, как активность клеток преобразует образ в «стул» и знание о том, что на него можно сесть?

Читал у О. Сакса в «Человек, которые принял свою жену за шляпу». Как раз о таком случае, когда у человека была разорвана связь между полушариями. И у него были проблемы с опознанием значения предмета, которые он видел. Он мог их описать, но не мог сказать для чего они нужны. Это как раз то о чём я говорил выше, что похоже у человека много мест в мозге, где хранится специфическая для отдела мозга информация.

Но что есть в данном случае уровень заряда? Synaptic weight?

Хз, количество ионов каких-нибудь.

Я думаю, что все это обречено на провал, пока нет возможности замерить одновременно активность всех нервных клеток в одном регионе, вплоть до отдельных спайков

Это да.

Свободная в смысле много степеней свободы.

Ну это из серии «информация не доходит из „a“ в „б“. Собственно, нет ничего нового в том, что определенные виды информации обрабатываются в определенных разделах мозга. Очень занимательны опыты с неглектами, когда люди сознательно в определенной части визуального поля не видят предметы, но очень ловко от них уворачиваются на уровне рефлексов, если их, скажем, в них бросить. Разные аспекты информации обрабатываются на разных уровнях. Но речь в треде не об этих, весьма грубых, замечу, знаниях, а о внутреннем представлении и обработке информации в мозге. Особенно учитывая то, как он вольно, в целом то, с ней обращается. Сравни со старательными дурачками компутерами. Это загадка, как минимум, столетия.