Нейросети действительно понимают, что делают. Change my mind

Ну, нейросети есть не только словесные, с графикой же они работают, но да, их опыт конечно далеко не такой комплексный, как у нас.

И где были нейронки 30 лет назад? 😁 Не в теории или влажных фантазиях, а работающие и дающие результаты.

Например, глянь оглавление (стр. 5…10) в справочнике «Распознающие системы» 1983 г. ©.

Вау, буквы в книжке! А работающие нейронки там где?

Вау, буквы в книжке! А работающие нейронки там где?

Один из древних примеров: Метод группового учёта аргументов (МГУА) … наиболее ранний метод глубокого обучения, был использован для обучения восьмислойной нейронной сети уже в 1971 г. ©.
Сети «плели на коленках» перепаивая тогдашние ЭВМ.

Там в справочнике среди букв затесались и работавшие железячные устройства, смотри тщательнЕЕ :)

Увидел, сорян. Но это опять же первые мелкие шажки. Распознавание простейших фигур и некоторых рукописных символов. У Розенблаттовского перцептрона даже с коррекцией ошибок всё плохо было. А практических результатов и вовсе кот наплакал. В целом не тянет на прорыв или скачок, в отличие от ситуации 2010-2020-х годов.

Ни в чем, естественного интеллекта ровно так же не существует. Change my mind.

Эти закорючки на смайл не похожи. Кроме символа посередине.

Люди это тупейшая система простейших рефлексов. Делают ровно то, что было запрограммировано и настроено последующим обучением и ничего кроме этого. Никакого отношения к какому-либо интеллекту они вообще никак не имеют.

Пока мы не ответили главные вопросы про свои мозги, все эти камлания про нейросети — виляние вилами по воде. А про свои мозги мы знаем много фактов, которые... почти ничего не дают в плане «понимания», т.к. есть объяснительный разрыв между наблюдениями за работой моска и того что нам доступно из интроспекции :)

Делание без понимания еще как возможно :) прыгучие паучки решают сложнейшие задачи не вмещающиеся целиком в их «нейросетку», а общественные насекомые и подавно, т.к. ганглии муравьев и термитов слишком малы чтоб вмещать не то что индивидуальное сознание (привет фанбоям зеркального фуфлотеста), но еще и общий план и свое место в нем :) так же и в нейросетках. «Мы» тоже дофига всего делаем без малейших сознательных усилий. Это как дышать легко и приятно без малейшего понятия о кругах кровообращения, парциальном давлении и градиентах.

Мой комментарий больше к тому, что это получается обычный инструмент и подход к нему должен быть как к инструменту

Не все инструменты обычны. Для некоторых инструментов нужна спец-справка. А некоторые вообще запрещены.

Нейросети это тупейшая система простейших уравнений. Делают ровно то, что было запрограммировано и настроено последующим обучением и ничего кроме этого. Никакого отношения к какому-либо интеллекту они вообще никак не имеют.

Порой в разумности некоторых людей сомневаешься больше, чем в разумности нейросеток.

Я всё ещё жду определения мышления без привлечения дядьки с облака и прочей антинаучной ереси.

Почему ты думаешь, что понимание нуждается в сознании/осознании?

Я бы так не сказал. Скорее там идёт процесс перехода количества в качество и подготовка к следующему прорыву. Научные работы по теме пишутся, теория развивается, хотя больше пока выжимается из базы что есть для последующего анализа и вывода по результатам. Т.е. сейчас процесс накопления знаний на данных с продакшенов.

Как уравнения могут мыслить?

Это лишь математика записанная программистом.

А мысли человека разве не математика, записанная эволюцией?

В чём будут принципиальные отличия разума мыслящего человека и «эмулятора человека», воплощённого в каком-нибудь кремнии с помощью аналогичной по функциональности нейросети, когда до этого дойдёт технический и научный прогресс?

И кстати. Если, прогресс всё-таки дойдёт, человеческое общество тут же породит кучу запрещающих ограничений и подвинет этические нормы на новые границы. Как это произошло после разработок методов клонирования человека.

При совсем уж фантастических раскладах развитие нейросетей может стать проблемой выживания человеческого вида. Другими словами, зачем нужны хрупкие кожанные мешки, когда эмулятор человека будет способен порождать свои копии, заменять повреждённые части без какого-либо ущерба, иметь различные формы тела подходящие для текущей задачи, не ограничиваться черепной коробкой, путешествовать к далёким планетам в космических кораблях многие тысячи лет и т. д.

Мне кажется, человекам, как гуманоидам, ничего не угрожает) То есть да, люди конечно будут развивать синтетические ткани и возможно даже мозги, но в целом будут сохранять привычный гуманоидный облик. Ведь всякие модификации тела доступны уже давно, но даже безобидный пирсинг это относительная редкость, не говоря уж о том, чтобы руку на клешню поменять. Люди очень консервативны в этом плане.

а не «умом».

Ты ещё про душу расскажи, юморист. Где конкретно в мозге находиться душа ум, кстати?

Меня ещё прикалывает та байка, которая «учёные определили, что решения принимает не человек, а его мозг!!»

Розенблатт изобретает однослойный перцептрон

Однослойный это ключевое слово.

Зашёл с козырей.

58-ой год, не менее ключевая дата.

Один из древних примеров: Метод группового учёта аргументов

Это не имеет никакого отношения к современным нейросетям и к перцептрону Розенблатта.

не менее ключевая дата

Что в ней ключевого по сравнению с 59 годом или 57?

Алгоритм нахождения глобального экстремума функции действительно понимает, что делает. Change my mind.

С 59-м ничего, а с 2015-м, например много чего. И в контексте упоминания в моём сообщении, это тоже ключевое значение.

А контекст там такой, что утверждения ТСа «нейронок не было 30 лет назад» и «нейросети, машинное обучение - поистине качественный скачок» слабо выглядит в исторической ретроспективе. Потому что, мат. аппарат и теория просто «ждали», когда же появятся мощности, которые позволят использовать их в порно индустрии и рекламе, например.

Не было скачка, было развитие, не линейное конечно, но и не прорывное.

от человеков

У меня ещё ощущение, что у человеков есть дикий оверхед по сравнению с железками, так как человеки ещё рандомно в параллель моделируют непрерывно всё, с чем сталкиваются, а потом по моделированным «рельсам» неосознанно принимают решения. (я, например, про сновидения). Ни одну железку ты так не запрограммируешь «тревожиться» и бесполезно тратить ресурс в расчёте, что «с вероятностью 20% оно пригодится».

Во какая тут тема, а я пропустил со своими переездами. Трэд не читал, но осуждаю.

Человеки бессмертны! Душу у нас не отнять! Как тебе такое Алекс1101? :)

Прогресс ИИ впечатляет, но почему компам так хорошо удаётся оперировать инфой? Они примитивны. Даже среди компов есть такая штука. ZX Spectrum «загружался» быстрее, чем твои современные «умные» часы. Почему? был примитивнее. Везде универсальность означает усложнение и замедление. Современные сетки натренировываются на отдельные штуки и рвут всех. Но где же глобальные ИИ? Сетки сетками, но у человека их дофигильёён и они взаимодействуют к тому же.

Даже некоторые программисты и операторы ИИ уже начинают думать, что ИИ живой, их за проф. непригодность увольняют :) А диванным теоретикам и вообще может показаться, что оно уже тут. Но «Человек» всё ещё звучит гордо. (но когда сознание можно будет переселить, я подумаю)

Потому что для этого нужна рефлексия, и это не «я считаю», а ты тут постулируешь «понимание» у нейросетей, у которых моделька содрана с одного аспекта «мокрого и шумного» мозга, который развивался миллионы лет и воссоздать который полностью мы вообще-то не способны «пока» и до сих пор люди поумней тебя спорят что важно для «осознания» или это все иллюзия понимания и моск не редуцируем к нейросеткам, а нейросети это все профанация редукционистов - даже контуром обратной связи выступает скорее внешний одобрятель-наблюдатель, без которого они выдают чушь и бред типа «портретов» вызывающих только оторопь и осознание зловещей долины, а не чувство прекрасного.

Прогресс ИИ впечатляет, но почему компам так хорошо удаётся оперировать инфой? Они примитивны.

Но ведь человекам тоже хорошо удаётся оперировать инфой, даже на порядки лучше компьютеров. Сравни энергопотребление мозга и суперкомпьютера, и сравни их возможности.

Везде универсальность означает усложнение и замедление.

Это справедливо наверное только в контексте компов фон Неймана, которые работают на тупой арифметике.

Потому что для этого нужна рефлексия

Ну ты просто сказал то же самое другими словами.

даже контуром обратной связи выступает скорее внешний одобрятель-наблюдатель

Так и у человека так же, у него это окружающая реальность в виде природы и общества.

Ну ты просто сказал то же самое другими словами.

Потому что это очевидно :) и рекурсивно, как отражения между зеркалами, хотя у зеркала нет глубины, без него не видно что происходит с тобой — без зеркала снаружи тебе нужно зеркало внутри, будь это «отражение» положения тела или «социальных взаимодействий» и «теорий другого» и особенно его «мыслей».

Так и у человека так же, у него это окружающая реальность в виде природы и общества.

Сформировавшемуся человеку хватает внутренней модели :) т.е. цензор у него уже есть внутри — он «рефлексирует это». Детям помогает воспитатель, но кое-что они могут и сами, а потом и отверают опеку. Нейросети без него «пока» не могут ничего. И... какбы им индифферентно его наличие/отсутствие. Потому и результаты на уровне комбинаторного шума.

ну так и наше понимание основано на статистике: какие слова, какие идеи, какие поступки и ситуации связаны между собой, а какие не очень.

Полагаю, тебе пора садиться за монографию и идти на нобелевку.

а если попросить дать им определения - мы будем тупить, даже если это простые слова типа «вешалка» или «радость»

Кто конкретно «мы» будем тупить? Я вот не буду. Язык — вещь контекстуальная: для разговора мы используем смыслы, эмоции, намерения, образы (иногда даже логику, но это не точно); это с одной стороны, а с другой — есть коннотации, и это очень правомерные определения, просто не вербальные.

Что такое вешалка? На неё вешают одежду. Что такое радость? Это когда человек улыбается, когда у него хорошее настроение.

А чтобы более точно придать форму понятию мы используем оппозиции: радость — грусть. Этого достаточно, чтобы правильно использовать слова, а практика, как известно, критерий истины.

Поэтому мы порой используем слова не к месту (стремительный домкрат) и вообще очень разно понимаем одни и те же вещи.

В речи мы много ошибаемся, это нормально, если по прежнему понимаем друг друга, так что это не является «использованием не к месту». Не к месту может быть использовано лишь неадекватное суждение, хотя грамматика может быть безупречной.

Древние говорили: Rem tene, verba secventur, то есть смысл в теме, в адекватности, а не в словах в конце концов.

Тех, у кого связи между смысловыми единицами совсем уж необычно выстроены, мы считаем неадекватами и сумасшедшими.

Сумасшествие — это иная реальность, где присутствуют смыслы, логика, адекватность и прочее. Неадекваты же только похожи на дураков, но их можно переучить, перевоспитать.

О способности компьютера иметь цели, желания, намерения, страсти, понимать контекст, постигать смысл и тд, я предлагаю поразмышлять самостоятельно и решить для себя может ли компьютер «понимать» или нет.

Потому что это очевидно :)

Мне нет :)

Сформировавшемуся человеку хватает внутренней модели :)

Это должен быть очень глупый и ограниченный человек, который перестал развиваться.

Мне нет :)

Попробуй сначала. Платона там почитай, штоле :)

Это должен быть очень глупый и ограниченный человек, который перестал развиваться.

Ну не гони, ты ж не спрашиваешь на каждый чих у окружающих верно ли поступаешь. Пиши буковку «а», пиши буковку «б»... ты пользуешься «культурными референсами» и поступаешь соответственно. Причем единожды «поняв» делаешь это уже без рефлексии :) на лоре например позволяешь себе то, чего не позволяешь где-то еще :) потому что «это ж лор» :) например, делаешь выводы космического масштаба из наперстка известных тебе фактов, не оглядываясь на мнения более специалистов по теме — ну там, научные статьи или хотя бы популярную литературу, которую чтоб «понять», надо тоже отрефлексировать. А «понятно» из нее что? Что мы не очень продвинулись со времен Платона, просто пришли от метафор пещеры к деконструкции и отрицанию «общих понятий». Норретрандес и Метцингер отрицают сознание :) Чалмерс считает что редукционизм с мозгами не работает... потому что «голова предмет темный». А хипсторы с питоном думают что все уже поняли... как их диды в 70х с ИИ. «Моск жы просто биологический комплюктер!» — ну, это не глупость или «непонимание». Это... такое понимание. И оно что-то не очень работает.

Платона там почитай, штоле

Это ж старьё. Примерно вся философия раньше XX века интересна только в историческом плане.

ты ж не спрашиваешь на каждый чих у окружающих верно ли поступаешь

Нет конечно, а зачем? Я просто смотрю на реакции окружающих. Да, в большинстве случаев хватает уже созданной модели поведения, но не всегда же. А если человек вообще никогда не меняет своих моделей, то это необучаемый какой-то.

Ты бы сначала дал определение понятия понимать.

Это ж старьё. Примерно вся философия раньше XX века интересна только в историческом плане.

А ты читал? :)

А если человек вообще никогда не меняет своих моделей, то это необучаемый какой-то.

А если меняет? Более того, самостоятельно :) нейросетки так могут? :)

А ты читал? :)

Да.

А если меняет? Более того, самостоятельно :) нейросетки так могут? :)

Могут и делают 🙂

google:// обучение без учителя

А ты разве сам не понимаешь?

Да.

Ну и где он не прав? :)

Могут и делают 

Покажь результаты этого «могут» :) а то они освещенность в помещении измеряют вместо распознавания образов :) и даже это обучение без придумали не они. Почему так? :)

Если бы я точно знал как работает механизм понимания, то не задавал бы такого вопроса.

При совсем уж фантастических раскладах развитие нейросетей может стать проблемой выживания человеческого вида.

Не вижу никакой проблемы. И так понятно, что кожаные мешки не нужны ни в каком космосе. Другое дело, что мешки могут попытаться вынести туда добывающее/обрабатывающее производство, скидывать на планетку всякие ништяки, деградировать и скатиться планетарный карго-культ через пару поколений жирной жизни.

Нейронки перевернули всё, да. Вон на ятубе Артас с Утером читают пасты про батин суп, записей звонков ментам и прочую платину. Завтра всё вообще будут делать роботы, отвечаю.

Дипфейк на был еще не плох и ходили слухи, что кто-то сделал нейронку, которая пририсовывает сиськи. Может быть еще доведут до ума нейронки, которые рисуют всякое, но больше ничего уже не будет.

Потому что, мат. аппарат и теория просто «ждали»

В 58 не было никакого матаппарата. Один дядя даже книжку про это написал и перцептрон похоронили на много лет.

нейронок не было 30 лет назад

Были конечно, но 30 лет назад это не 1958.

но и не прорывное

Прорывы бывают только в инженерии. Токамак в каком году придумали? Но прорыв произойдёт когда построят реальный экономически выгодный реактор.

А с чего это они не понимают?

Чтобы они что-то «понимали» и интеллект был действительно интеллектом нужен, например, механизм рефлексии. Еще нужен механизм, который порождает связи, а не тупой предустановленный граф на n слоёв. Это все комически сложнее и дороже по мощностям.

Ты ещё про душу расскажи, юморист. Где конкретно в мозге находиться душа ум, кстати?

«Mens sana in corpore sano», 10 сатира // Ювенал ©.

МГУА
Это не имеет никакого отношения к современным нейросетям и к перцептрону Розенблатта.

К современным – да, к тогдашним – один из реально работавших методов.
P.S. Википедии не веришь? Еретик! :)

наброс хороший, особоенно в текущей ситуации
однозначно ответить на этот вопрос невозможно само собой, а пытаться описать суть hard problem в паре строчек на форуме задачка намного более одиозная чем пытаться описать суть квантовой механики
лучше книжков умных почитать, мне особенно зашла «Насосы интуиции» Дэниела Деннета, современная, соответственно учитывает работы предыдущих учёных и текущий технический контекст, читается легко, содержит внутри программы на псевдокоде и примеры основанные на комбинаторике, в общем лучшии рекомендации, особенно для тех, кто хочет вкатиться в философию

К современным – да, к тогдашним – один из реально работавших методов.

К каким тогдашним? Ты только перцептроном тут махал. К перцептрону этот метод никакого отношения не имеет.

На порядки лучше и компактнее и энергоэффективнее, но... Спектрумы грузятся быстрее :)

Заточенная софтина не занимается ничем кроме поиска позы твоей любимой пони. Вот и всё. А ты за это время делаешь кучу. Того что не осознаёшь. Сознание твоё плавает над кучей жыыыырных прослоек типа гтк и вейланда только для мозгов. Пока они там чивоита...