Что умеет человеческий мозг, чего не умеют современные нейронки?

Можешь переформулировать попроще? Нейросети не умеют этого вообще?

Проще – это длиньше и занудливее, но попробую :)
Граф общего вида © для нонешних сетей слишком сложен по количеству нужных связей, технологии формирования огромадного количества 3D связей в кремнёвых кристаллах пока нету.
Контекстно-зависимый поиск основан на контекстно-зависимой грамматике ©, которая ныне для биомозга не формализована.
Мозговая ассоциативная память много сложнее сетевой: 4 упрощения ©.

Короче, нейропессимисты утверждают, что моделируемая система будет всегда примитивнее моделирующей, а сеть тупее мозга.

Пришла мысль - функция от времени? В плоскости ии - это просто наращивание информации, в плоскости сознания - качество.

Там и близко к червячему нейрону нет

Но ведь необязательно воссоздавать весь нейрон. Большая часть функций нейрона может быть направлена на существование самого нейрона как живой клетки, и не связана с работой естественного интеллекта.

Да там вроде только виды «сигналов» передаваемых между биологическими нейронами настолько сложны и разнообразны что офигеешь.

Можно и так сказать

Тогда это к самостоятельному целеполаганию)

это все завязано на понятие «сознание» которое ты вынес за скобки

Я не уверен, и некоторые специалисты не уверены. Есть концепция философского зомби, например.

Весь массив элементов сигнальной сети мозга участвует в процессинге одновременно.

А вот это спорный вопрос. Откуда правши/левши?

Можно спросить иначе.

Я утверждаю, что машина в принципе не может думать, она может имитировать думание внешне неотличимо (!) от думающего человека. Ну и так на любое интеллектуальное в твоем определении действие, не обязательно именно «думать».

То есть - человек делает это, а машина имитирует делание этого.

Вопрос в том, как мы можем отличить имитацию делания от настоящего делания, если внешний результат одинаков?

Ну например, ты спросил у меня человека, какая у меня любимая музыка. Я что-то ответил. Теперь ты спросил у простейшей машины-отвечалки, которая из базы выдала название какой-то группы. На этом эксперимент останавливается.

Очевидно, что я и машина дали этот ответ в результате совершенно разных процессов внутри нас. Но результат одинаков.

Как ты можешь понять только по ответу, который дал я и она, что я - ответил, а машина имитировала ответ?

Нейросети тоже можно дообучать новым задачам, просто на это нужны огромные ресурсы. Получается, разница тоже количественная.

Если бы сейчас был 1823 год, вы бы написали что-то типа «паровые машины тоже можно дообучать новым задачам, просто на это нужно больше пара». В этом редукционизме уже плавали, знаем. А разница в том, что души всё ещё нет в этих железках, как сказал бы Forum0888

Ну это не про одновременность работы, это про назначение частей на роли.

Кажется, понял. Да, это можно считать качественным (структурным) различием, спасибо.

Ещё помимо нейронов есть глиальные клетки, которые тоже участвуют в передаче сигналов, а их примерно столько же, сколько нейронов.

самостоятельное целеполагание и вообще полная автономность функционирования

Это такое себе.

А вот чего точно не умеют, так это валидировать результаты своей деятельности. Абстрактные качественные градации по типу хорошо-плохо, ибо без кожаного мешка им недоступны стандарты или ожидания, чтобы определить соответствие.

Я в курсе. Я имею в виду мимикрию бабочки под змею когда у неё на крыльях змеиные глаза и всё подобное. Когда нибудь созданный ИИ будет не мимикрией, а разумом искуственным небиологическим, работающим по своим принципам, не биологическим. Хотя может симбиоз какой будет. Не обязательно делать ИИ на полупроводниках. Может быть будет синтетическая органика какая. Но это всё лет через 100+. Не надо мне рассказывать про нейросети, что это такое и как они работают я их сами пишу, никакого отношения к ИИ они не имеют, как и не имеет отношения биологический мозг живых существ.

Как составная часть да, как субъект нет.

Разве? По-моему, это как раз у большинства нейросеток так, и это считается недостатком, из-за чего придумали разреженные нейросети (или как-то так).

Ну и ладно 🙂

Если бы сейчас был 1823 год, вы бы написали что-то типа «паровые машины тоже можно дообучать новым задачам, просто на это нужно больше пара»

Я определённо не писал и не говорил такого в 1823 году.

У некоторых нейросетей есть механизм самоконтроля, у той же GPT-4 например.

она может имитировать думание внешне неотличимо (!) от думающего человека

А в чём тогда разница, если отличить нельзя?

Очевидно, что я и машина дали этот ответ в результате совершенно разных процессов внутри нас. Но результат одинаков.

Это очень узкая проверка. Сильный ИИ, как считается, будет неотличим от человека на произвольно больших масштабах времени и в любых ситуациях.

GPT-4

Я спросил. :)

Естественный интеллект может использовать свойственную ему интуицию, креативность, эмпатию и способность к общению на разных уровнях.

интуицию

Не катит, интуиция это не более чем наработанный опыт (либо же просто пальцем в небо), то есть все нейросети работают интуитивно :)

креативность

Нейросети вовсю создают новые тексты, музыку, изображения.

эмпатию

Это да, можно засчитать. Но ведь есть и люди - психопаты без эмпатии.

способность к общению на разных уровнях

А тут не понял.

А в чём тогда разница, если отличить нельзя?

А вот это самый главный философский вопрос, над которым надо думать.

Ну например можно поставить вопрос так. Если лично тебя аннигилировать и заменить на полную цифровую копию, лично для тебя будет разница - это ты или твоя копия дальше живет? Наверное будет. А значит разница таки есть.

Это очень узкая проверка

Без разницы. ИИ неотличимый от человека можно получить расширив и усложнив такую базу готового до астрономических масштабов. Это не отменит того что машина имитирует, а не делает.

Нейросети вовсю создают новые тексты, музыку, изображения.

/deb/random делает это еще лучше. Вообще новое создает, ничего общего с Рафаэлем не имеющее. Значит, ядро Linux содержит сильный ИИ? Наверное нет.

А вот это самый главный философский вопрос, над которым надо думать.

Разница может заключаться только в наличии субъективного опыта, т.е. в квалиа и сознании. Но я их вывел за рамки.

Если лично тебя аннигилировать и заменить на полную цифровую копию, лично для тебя будет разница - это ты или твоя копия дальше живет?

А вот хрен его знает)

Это не отменит того что машина имитирует, а не делает.

Суть в том, что со стороны ты не увидишь разницы. Мы и сами же считаем других людей разумными и сознательными просто потому, что у нас мозги так настроены эволюцией. Но что если вокруг тебя есть философские зомби - люди без какого-либо субъективного переживания?

ИИ неотличимый от человека можно получить расширив и усложнив такую базу готового до астрономических масштабов.

Нейросети не по «базе готового» работают, они работают на обобщённых образах. Если нейронку научить распознавать котов - она будет распознавать даже таких, каких не было в обучающих данных.

Долгосрочное (в том числе и иерархическое) планирование, надёжная моторная координация (нет, у Boston Dynamics не нейронки), непрерывное обучение.

/deb/random делает это еще лучше

Нет, не лучше, а намного хуже. Рандом просто генерит случайные комбинации. Нейросеть тоже генерит разные комбинации, но не случайные, а только те, что соответствуют закономерностям, выведенным при обучении.

Ещё:

На данный момент, искусственный интеллект не имеет таких способностей, как способность к эмоциям, эмпатии, креативности, находчивости, интуиции и творческому мышлению. В то же время, человеческий разум способен к одержимости, боязни и другим эмоциональным состояниям, которые могут сказаться на принимаемых решениях.

нет, у Boston Dynamics не нейронки

А что у них?

Не очень понятно.

Нейросеть оперирует только с тем на чём её тренировали.

Умеют, если обучить на соответствующих данных.

Это не это, скорее связано с первым.

Да вроде могут, но в своих пределах, конечно.

Не видел ни одной нейросетки, которая бы проводила доп анализ собственных действий.

Нейросеть оперирует только с тем на чём её тренировали

Ты имеешь в виду, она не умеет учиться методом тыка, не имея данных по теме?

Не видел ни одной нейросетки, которая бы проводила доп анализ собственных действий.

Это про рефлексию?

А что у них?

Какие-то алгоритмы из теории управления динамическими системами. Подробностей сейчас что-то не найду.

Правда сейчас появились некие «текучие» сети («liquid» networks): сети, которые могут регулировать своё время отклика. Вроде бы они больше подходят для задач организации координации движения.

Да, из 1000 попыток что то сделать человек может придумать очень разные способы. Нейросеть будет +- повторять известные действия.

И как раз смежная проблема, что человек естественным образом осознает как минимум часть многообразия вариантов, даже если не видел их реализации.

Есть видео, где обезьяненышу показывают как достать вкусняху и он при повторении отбрасывает половину действий как бесполезные. Я хз как работает такая система, но у искусственных нейросеток я такой не видел.

1. Философский вопрос: может ли нейронка создать более совершенную нейронку, чем она сама? А та, следующая, может?
2. Практический вопрос: может ли нейронка создать точную 3D-модель какого-либо объекта, интерьера и т.д. по фотографии? Сможет она это сделать лучше, чем человек?

лично для тебя будет разница - это ты или твоя копия дальше живет?

На этот вопрос можно сколь угодно пафосно и притворно отвечать воображая себя крутым философом, пока ствол аннигилятора к голове не приставят. И даже после этого надуманные фантазии могут не дать признаться даже себе самому.

Даже если это была бы полная копия меня, она начала бы жить свою отдельную жизнь в момент активации, а я прекратил бы жизнь в момент аннигиляции.

может ли нейронка создать более совершенную нейронку, чем она сама?

А человек может?

может ли нейронка создать точную 3D-модель какого-либо объекта, интерьера и т.д. по фотографии?

Есть такие нейронки, насколько я знаю.

Практический вопрос: может ли нейронка создать точную 3D-модель какого-либо объекта, интерьера и т.д. по фотографии? Сможет она это сделать лучше, чем человек?

«NVIDIA Instant NeRF: NVIDIA Research Turns 2D Photos Into 3D Scenes in the Blink of an AI»: https://www.youtube.com/watch?v=DJ2hcC1orc4

Чтобы ответить на этот вопрос - нужно понимать, как работает человеческий мозг, и каковы его возможности, а это известно очень поверхностно и далеко не в полном обьеме.

Это не философский вопрос, это вопрос ресурсов. Тебе не нужно описывать конкретное строение узора, тебе нужно описать алгоритм роста узора и начальные параметры для роста. Остальное - вопрос ресурса.

Для построения полной модели-копии вселенной тебе потребуется количество элементов, которое содержит вселенная. Ресурс.

Собственно, в этом и заключается суть игры «должен остаться только один». Этому одному как раз и надо все доступные элементы включить в состав себя. Поглотить всё.

Что умеет человеческий мозг, чего не умеют современные шахматные программы?

Как ты можешь понять только по ответу, который дал я и она, что я - ответил, а машина имитировала ответ?

Сложно не заметить, если машина занимает всю видимую вселенную. А такой размер понадобится, если сделать машину, которая просто выбирает из базы.

И лучше рассмотреть вопрос как человек может доказать, что он не имитирует ответ.

NVIDIA Instant NeRF

На Хабре нашёл статью, в которой пишется, что нейронке требуется несколько десятков фотографий. Художнику потребуется пара фотографий, чтобы сделать модель без артефактов, которые могут быть получены при фотограметрии, например. «Если в процессе захвата 2D-изображения слишком много движения, 3D-сцена, созданная искусственным интеллектом, будет размытой.» Художник может это отфильтровать.

Но система от NVIDIA впечатляет, конечно. Фотограметрия, например, не может осилить бликующие и прозрачные объекты, а в примере от NVIDIA у дамы очки неплохо получились. Но опять-таки, дама в павильоне с правильно выставленным освещением. Было бы всё так хорошо при неидеальном освещении?

нейронке требуется несколько десятков фотографий. Художнику потребуется пара фотографий

Любому ли художнику? Или только очень умелому, с нехилой такой насмотренностью и опытом работы?

А человек может?

Далеко не всякий человек может. Но может, я уверен. Дело же не в том, что нейронка хуже. Вопрос может они или нет. Если уже может, то мы проиграли.

Казаться соответствующим несформулированным ожиданиям от ИИ. Но только казаться.

Если лично тебя аннигилировать… лично для тебя будет разница..?

Для кого? Ты меня уже аннигилировал.

Любому ли художнику?

Конечно, не любому. Неумелому и сотня фотографий не поможет. Однако же высококлассному специалисту нейронка проиграет. У большинства же людей может и выиграет уже.

Есть видео, где обезьяненышу показывают как достать вкусняху… у искусственных нейросеток я такой не видел.

Ага, ещё пуще: есть видео, где ворон решает как достать вкусняху без предварительного обучения ©.
Искусственная нейросетка так не сможет.

без предварительного обучения

Э нет, там взрослый ворон, который наверняка многому научился в жизни.

Э нет, там взрослый ворон, который наверняка многому научился в жизни.

Этот взрослый ворон впервые в жизни видит пробирку. И закон Архимеда не учил. В природе нету таких задач. А тут ему понадобилось напрягать мозг для многошагового анализа и действий.
Ещё пример: «ворона 007» решила сложную головоломку в восемь действий за две с половиной минуты ©.
У тебя есть нейросетка, способная на такое? :)

Если нейронку научить распознавать котов - она будет распознавать даже таких, каких не было в обучающих данных.

Ну не прямо таких, а очень похожих только. То есть обученная исключительно на живых котах, вообще не узнает контурно-нарисованного художником. В то время как ребенок без всякого обучения это делает когда еще говорить не умеет толком, и показывает что вот эта каракулина - именно кот.

Вот пожалуй как раз пример, что может мозг и не может нейросеть.