Нейросети действительно понимают, что делают. Change my mind

Как уравнения могут мыслить?

Это лишь математика записанная программистом.

Для кого математика=магия, тот также и противников в компьютерных играх считает за живых людей.

Это вопрос философский, и место ему в Talks, а не в Science & Engineering. Ответ будет зависеть исключительно от принятого определения слова «понимают».

Как уравнения могут мыслить?

Как биореакторы могут мыслить?

какие слова, какие идеи, какие поступки и ситуации связаны между собой, а какие не очень.

Для этого достаточен кластерный анализ в ситуационно-лингвистической базе данных.

Может, нынешние искусственные нейросети это примерно то же самое, что механизм понимания в наших мозгах?

Нет, в отличие от человеков они не могут воздействовать на окружающюю среду, изменяя её по потребностям.
С точки зрения «лженауки кибернетики»™: обратной связи через окружающий мир нету.

Так в чём разница?

У нейросетей нет собственной, эволюционно ориентированной цели.
«А когда нет цели — нет будущего!» // «Кин-дза-дза!»

воздействовать на окружающюю среду, изменяя её по потребностям

Как это относится к пониманию? Это вообще по большей части вопрос наличия лапок)

Это, человек не понимает, что делает нейросеть, потому что не в силах переложить множество связей с весами на конечный результат.

Точно так же, человек не понимает, как калькулятор умножает большие числа.

Но это не значит, что человек не понимает, как работает калькулятор и как работает нейросеть.

Неонимание что делает - есть, непонимания как делает - нет.

Нейросети действительно понимают, что делают

На уровне условного оператора, если только. Т.е. никак.

Может, нынешние искусственные нейросети это примерно то же самое, что механизм понимания в наших мозгах?

Если только в самом начальном примитивном приближении.

Как это относится к пониманию?

Понимание человеков основано на итеративном взаимодействии с окружающим миром, изменяя его. У нейросетей такой возможности нету, как и цели.

Понимание человеков основано на итеративном взаимодействии с окружающим миром, изменяя его

Откуда инфа?

Безрукий немой ребёнок обречён ничего не понимать?

Откуда инфа?

Сам сотворил, я-ж не нейросеть, а «тролль-сапиенс»™ – высшая форма разума :)

Безрукий немой ребёнок обречён ничего не понимать?

Обречён –> ограничен: его понимание формируется через дополнительный «слой взаимодействия» с другими, помогающими ему человеками. Иначе – смерть.

Сам сотворил

Ок, тогда я не соглашусь. Довольно неубедительно ¯_(ツ)_/¯

Ну капец, маркдаун убил такой роскошный смайл!

Держи \

¯\\_(ツ)_\/¯

Это ребёнок плечами пожимает, а не здоровый мужык 😁

А теперь совсем мутант!

нынешние искусственные нейросети это примерно то же самое, что механизм понимания в наших мозгах

Примерно да. Вообще все эти псевдотермины вроде «понимание», «психика» и т.п. это всё от непонимания. Просто некие эмпирически наблюдаемые вещи, вроде теплорода или силы тяжести. На самом деле там тоже сетки, просто адекватной терминологии пока нет. Отчасти потому что там тоже не всё известно.

Другое дело, что хотя искусственные нейросети и работают подобно тем что в мозге, но принцип их построения и обучения совсем другой (по большей части). Хотя есть работы по имитации того как это в мозге происходит, т.е. построение связей как часть обучения ведутся. Правда тут до сих пор не известно как конкретно это в мозге получается.

Понимание человеков основано на итеративном взаимодействии с окружающим миром, изменяя его.
Ок, тогда я не соглашусь.

Ну, тогда ссылка на авторитет мыслящего Океана Соляриса, который изучал человеков аналогично.

Или предложи вариант лучше.

Так предложил же, в стартпосте)

в отличие от человеков они не могут воздействовать на окружающюю среду, изменяя её по потребностям

Шахматные программы смеются над тобой. Альфазира передаёт пламенный привет.

Шахматные программы смеются над тобой.

Шахматные программисты смеются над шахматистами, думающими, что они играют со «сверхразумом». Шахматные программы побеждают количеством проверенных вариантов, скоростью анализа, отсутствием усталости, … а не «умом».

Спроси у нейронки определение слова «вешалка».

Ну, Алиса цитатой с Википедии отвечает 😁

Так предложил же, в стартпосте)

Нейросети – сиюминутная мода, основанная на возможностях сегодняшних технологий.

А ежели завтра технологически сотворят более сложные и абстрактные объекты, например, многокубитную симплициальную гомологию © абстрактных симплициальных комплексов ©, то нонешние примитивные сетки станут нинужны.

Нейросети – сиюминутная мода

Пик хайпа был лет 5 назад, а они до сих пор в тренде. Так-то мода затянулась, или получается, что не совсем и мода.

Так-то мода затянулась, или получается, что не совсем и мода.

Технологический застой.

Нет никакого застоя.

Я не всегда понимаю, что делаю. Иногда, когда нет времени на раздумья, работают рефлексы. Понимание приходит (если приходит) потом.

Можно ли считать меня разумным существом?

Нейросети это тупейшая система простейших уравнений. Делают ровно то, что было запрограммировано и настроено последующим обучением и ничего кроме этого. Никакого отношения к какому-либо интеллекту они вообще никак не имеют.

Созданием среди хомячков ложной веры в то, что нейросеть это искусственный интеллект занимаются всякие государства/корпорации чтобы стало возможно перекладывать любую ответственность за свои действия, решения и т.п. на некий несуществующий в реальности искусственный интеллект.

Тот, кто повёлся на эту массированную пропаганду и теперь считает что за результаты работы нейросети её создатель не отвечает, потому что, дескать, это «интеллект» - конченный дебил.

Разум, согласно вики - философская категория, поэтому совершенно неважно. т.е. зависит от того, с какой стороны посмотреть, с какими критериями подойти.

за результаты работы нейросети её создатель не отвечает

Ножиком можно докторскую колбасу порезать, а можно и как аргумент при отъёме имущества использовать, если не хуже.

«Автор» ножа в какой степени отвечает за последствия?

Логично. Не создатель, а владелец тогда. Тот, кто её натренировал на то, что ему нужно и использует в своих целях.

Мой комментарий больше к тому, что это получается обычный инструмент и подход к нему должен быть как к инструменту, ответственность несут и тот кто использует, и тот кто тренирует и даже создатель, если целью создание был эффект, за который надо отвечать.

Они не понимают в том смысле, что являются китайской комнатой. Это действительно так как вы сказали, это часть механизма понимания в наших мозгах, не зря их назвали нейронными, но выдернутая в отдельную внешнюю от человека машину, скажем как например линза в лупе имеет аналог в нашем глазе но наш глаз состоит не только из линзы.

С тем же успехом можно сказать что листок бумаги, с написанным на нем текстом, понимает этот текст. Это звучит бредово и интуитивно челвоек скажет что термин «понимание» к листку неуместен.

Можно ли считать меня разумным существом?

Не всегда, получается

Что китайская комната, что философский зомби - очень слабые концепции. Считаю их чепухой от любителей искать душу в мыслительных процессах.

Прекрати =)

Нет никакого застоя.

По размерам – «нанометровый тупик».
По материалам – кремнёвый и литиевый застой .
Где массовое вытеснение неандартальского древнекремня арсенидом_нашим_галлия?
Где спинтроника, магноника и прочая оптроника? Ась?

P.S. Единственная инновация: скоро аккумуляторы будут кирпичные, почти вечные :)

Прогресс идёт по множеству направлений и регулярно появляются новые, а выдёргивать то, что нравится, и преподносить это как абсолютные критерии развития - фе, субъективщина и манипуляции.

Те же нейросети, машинное обучение - поистине качественный скачок. Чего стоит одна только обработка огромных массивов данных в науке с их помощью. Изучение и конструирование белков и т.д. Заманаешься перечислять.

Те же нейросети, машинное обучение - поистине качественный скачок

Какой же это скачок, если когда этот процесс 70 лет уже движется. Мат. аппарат, который сейчас в нейронках, использовался в теориях управления больше 30 лет назад.

Мат. аппарат, который сейчас в нейронках, использовался в теориях управления больше 30 лет назад.

И где были нейронки 30 лет назад? 😁 Не в теории или влажных фантазиях, а работающие и дающие результаты.

Мат. аппарат был, использовался в теории управления в соответствии с доступными вычислительными ресурсами.

Т.е., увеличение вычислительной мощности плюс доступность этой самой мощности потянуло за собой и всё остальное, что уже было.

Да, можно сказать, что сработал закон перехода количества в качество, но с оговоркой, что качество уже было.

Правильный ответ: их не было.

механизм понимания в наших мозгах?

Вы взаимодействуете с окружающим миром и получаете опыт от этого взаимодействия. И многие понятия вы постигаете не путем чтения словаря. Например, для многих людей «оса» или «заноза» - это больше чем просто слово. Вероятнее всего, для них у людей есть набор ассоциированных воспоминаний или эмоций, а также правил взаимодействия.

Из вики:

В 1958 Ф. Розенблатт изобретает однослойный перцептрон и демонстрирует его способность решать задачи классификации. Перцептрон использовали для распознавания образов, прогнозирования погоды...

Я про это и говорю: наше понимание не основано на словарях, оно состоит из статистики, выведенной из опыта. Из процесса обучения, примерно как у нейросеток.

А про атомы ещё Демокрит задвигал. Значит, в Древней Греции работали АЭС. По твоей логике.

Если 100 лет - это скачок, ну ладно, пусть будет скачок.

Атомной энергетике 2500 лет, не забывай 😁

Вот именно этим ты и занимаешься: подменяешь работающую технологию её теоретической заготовкой. Ты ещё на фантастов ссылаться начни, мол, если термоядерный реактор они придумали 100 лет назад, то это уже старьё, чё тут изобретать

Мне кажется, что пока ИИ не обретет способность выйти за пределы мира слов в мир, где у него будет тело и возможность воздействовать на мир и получать воздействие от него, его «понимание» не может сравниваться с человеческим.

Обычно это достигается многократным повтором. 

😁