LINUX.ORG.RU

Как обучить компьютер?

 


0

2

Здесь под обучением я не хочу иметь в виду популярную тему «обучение по прецедентам». Этот подход безусловно может приносить определённый результат и конечно полезен, но в довольно узких рамках. За пределами этих границ ожидать от этой технологии чего либо всерьёз, конечно, наивно.

Вообще, мысль об обучении компьютера совершенно естественна: если вычислительная система предназначена помогать мозгу, а мозг обучается и вычислительная система такая умная, то пусть как раз сама всему научится. Но что такое обучение? Для простоты назовём обучением получение новых знаний и изменение имеющихся. Также, положим что знание это некая модель отражающая объективную реальность. В нашем случае эта модель – описание.

Также, для простоты, будем говорить только о тексте. Не будем рассматривать изображение и звук. Конечно в идеале следовало бы говорить о произвольном тексте на естественном языке, но мы и здесь упростим и будем иметь в виду некий условный псевдоязык.

Можно даже упростить ещё немного. Не будем рассматривать случай понимания произвольного текста а рассмотрим некую модель некоего явления, которое можем наблюдать. Положим что система «понимает» это явление и может отвечать на вопросы о нём.

Возьмём пару примеров. Скажем, модель предприятия. У предприятия есть бухгалтерия, контракты, сроки, сотрудники. И пример попроще: планетная система. В этом случае есть наблюдения за движением точек на «небесной сфере». При необходимости, примеров можно будет добавить.

Мы можем быть последовательными до конца и сказать что если компьютер такой умный то надо высыпать в него данные и пусть сам разбирается. Но у эволюции пути не быстрые и пока попробуем немного сократить и положим что нужно взять в качестве основы некую модель, которая является недостаточно полной и которая и будет расти. При этом у нас должно возникнуть два вопроса. Что необходимо поместить в систему в качестве начальной модели и каков регламент для дополнения и изменения модели. От вопросов ввода мы здесь можем абстрагироваться.

Понятно, что сразу сказать какой должна быть базовая модель, из которой прорастёт полная, мы не сможем. Но можно что нибудь сказать об этой основе? Что в ней может быть? Какова структура?

Не знаю, есть ли у меня предположения, но пока предлагаю присутствующим высказать свои мнения если таковые имеются.

Конечно, эта тема больше подошла бы для talks, но в том разделе не все желающие принять участие смогли бы высказаться.

★★★★★

Как обучить компьютер?

скормить ему базу данных - чем шире база тем будет казаться компьютер умней, но могут быть и накладки… что если в базе - гитлер хороший?

amd_amd ★★★★★
()

А куда из ваших рассуждений делся эксперимент? Знания не порождаютя одним лишь наблюдением. Для того, чтобы наблюдение превратилось в знание, нужны наблюдательные факты и гипотеза. Перевести гипотезу в теорию можно только экспериментальным подтверждением. Из, условно говоря, тысячи гипотез, только одна в итоге станет теорией, но для этого необходимо провести тысячи неудачных экспериментов. А эксперимент, это сугубо материальная, дорогостоящая, требующая времени штука. Никакое знание вы не породите загрузив в некий суперкомпьютер очень-очень много наблюдений. Ответ будет в стиле знаменитого 42.

FishHook
()

мозг обучается

потому что есть цель обучения. Школнику, например, ставят оценки, за которые дома папа бьет ремнем, или мама кормит пряниками. То есть все сводится к щекотанию центров (не)удовлольствия, которые запрограммированы биологической эволюцией (смысл жизни).

вычислительная система такая умная, то пусть как раз сама всему научится

в чём смысл обучения вычислительной системы, с точки зрения вычислительной системы (в чем смысл жизни вычислительной системы)?

anonymous
()
Ответ на: комментарий от anonymous

Да, я тоже считаю что «обучение» в современном понимании мало перспективно, поэтому и задаюсь вопросом что должно служить основой для рабочей модели.

sin_a ★★★★★
() автор топика
Ответ на: комментарий от sin_a

«обучение» в современном понимании мало перспективно

Какой биологический мозг с нуля (знаний) можно научить за год до «знаний» чатгпт?

«Современное обучение» эффективно по скорости обучения.

anonymous
()
Ответ на: комментарий от anonymous

Современные системы, которые называют «нейросети» довольно узко применимы. Любой биологический мозг может гораздо больше. А по скорости – в некотором смысле можно сказать что меня не устраивает и скорость обучения также.

Вопрос по сути ставится о «предварительно обученной» системе с определёнными правилами вывода. «Предварительно обученной», конечно, условно. Выстраивая базовую модель мы никого не обучаем, но в некотором смысле формализуем результат своего обучения.

sin_a ★★★★★
() автор топика
Ответ на: комментарий от ugoday

Ну, всё таки фаза бредогенератора, конечно уже пройдена. Сейчас оно производит вполне неплохие материалы, и не хватает только одного – понимания. И в общем распознаёт. Вот место интерфейса, ввода-вывода, для таких систем и останется, там они хороши.

sin_a ★★★★★
() автор топика
Ответ на: комментарий от sin_a

Ну, всё таки фаза бредогенератора, конечно уже пройдена.

Полагаю, что нет. В бредогенераторах отсутствует как раз то, что вы ищете: модель изучаемого/рассматриваемого явления. Они просто порождают текст с заданными характеристиками, на основе другого текста и набора правил.

И мне кажется (обосновать не смогу), что в рамках данного подхода мы упёрлись в предел. Воспользуюсь аналогией с типизацией. В большинстве языков система типов позволяет нам отловить ошибки 2x2=стеариновая свечка. А 2x2=8 не позволяет, так как 8 — правильного типа положительное целое число. И никаким разгоном компьютера или усложнением компилятора эта проблема не решается.

ugoday ★★★★★
()

Понятно, что сразу сказать какой должна быть базовая модель, из которой прорастёт полная, мы не сможем.

Вполне себе можем.

Но можно что нибудь сказать об этой основе? Что в ней может быть? Какова структура?

Вот это прочитайте, если поймете, вопросы отпадут, если не поймете - на форуме вам не объяснят тк тема довольно сложная с математической стороны.

Obezyan
()
Ответ на: комментарий от Obezyan

Понятно, что сразу сказать какой должна быть базовая модель, из которой прорастёт полная, мы не сможем.

Вполне себе можем.

Наблюдая за работой вычислительных машин вокруг, я вижу что нет.

Вот это прочитайте

Спасибо, но моделирование процессов мышления меня не так сильно интересует. Текст большой, там есть что нибудь про базовые модели?

sin_a ★★★★★
() автор топика
Ответ на: комментарий от sin_a

если бы у бабушки был

Если бы у бабушки была бы вяленая рыбка, то бабушка была бы чемпионом мира не только среди женщин. Э.Маск вполне может может это сделать даже сейчас.

anonymous
()
Ответ на: комментарий от sin_a

моделирование процессов мышления меня не так сильно интересует. Текст большой, там есть что нибудь про базовые модели?

Ну вы хоть до картинок долистайте. Этак книга буквально отвечает на поставленные вами вопросы, там детально разобрано информационное строение мыслящих систем.

Автор занимается исследованиями в области квантовых компьютеров и моделировании процессов мышления по которым он уже выпустил пару монографий. Эта книга книга довольно тяжелая для понимания, но одна из его самых простых. Остальные еще сложнее и рекомендовать их смысла не имеет.

Obezyan
()
Ответ на: комментарий от Obezyan

Посмотрел картинки. Нет, картинки там тоже очень умные. На мой взгляд общий смысл книжки: «ты дурак а я умный».

Когда меня проходили физику, то начинали с простого: вот притягивается, вот сила равно масса на ускорение, вот проверить можно таким образом. А потом уже, из этого, дальше и всякое такое.

Вот Вы, вижу, человек умный, Вы можете в двух словах пояснить о чём там речь? Говорят что Резерфорд однажды сказал, что «Если учёный не может объяснить уборщице, которая убирается у него в лаборатории, смысл своей работы, то он сам не понимает, что он делает». Вот представьте что я это случайно зашедшая уборщица, даже если это не Ваша лаборатория.

sin_a ★★★★★
() автор топика
Ответ на: комментарий от anonymous

в чём смысл обучения вычислительной системы, с точки зрения вычислительной системы (в чем смысл жизни вычислительной системы)?

Вообще, интересный вопрос. Но на него есть простой и прямой ответ. У вычислительной системы смысл внешний. Как у лопаты, плоскогубцев и тачки.

sin_a ★★★★★
() автор топика
Ответ на: комментарий от sin_a

На мой взгляд общий смысл книжки: «ты дурак а я умный».

Нет, это не специально, просто тема на самом деле сложная. Ну и требования к читателю заданы на первой странице: для младших научных работников и студентов старших курсов.

Вот Вы, вижу, человек умный,

Так обезъяна на ЛОРе еще никто не оскорблял :)

Вы можете в двух словах пояснить о чём там речь?

Там о том как происходит процесс мышления, какова база мыслей, идей, ассоциаций и тд. Какова система обрабатывающая мысли и идеи, какие у нее составные части и как они взаимодействуют. Как они обрабатываются в самой системе превращаясь в реализованные и нереализованные идеи, становятся комплексами и тд. Как протекает процесс размышления и принятия решения.

Автор реально постарался с простыми и наглядными примерами из обычной жизни раскрывая суть не только на математическом уровне, но и показывая его с психологической точки зрения. Буквально, местами давая мат обоснования психическим процессам.

Если что, моей магистратуры 20-летней давности в тех ВУЗе тоже не хватило, пришлось подтянуть некоторые моменты в математике, психологии и перечитать книгу пару раз.

Obezyan
()
Ответ на: комментарий от Obezyan

Автор реально постарался с простыми и наглядными примерами из обычной жизни раскрывая суть не только на математическом уровне, но и показывая его с психологической точки зрения.

Ничего простого там нет. Простая книжка начинается с того, что разворачивает материал с которым будет работать. Вот есть простые вещества. Вот есть соединения. Вот есть таблица Менделеева. Так начинается химия, которая доходит до того, что вся наша среда этой химией буквально создана.

На каких элементах там идёт строительство?

Вообще, этот случай неплохо иллюстрирует что чтение книг не имеет никакого смысла. Иногда чтению придают некое значение, забывая что само по себе оно ничего не стоит.

sin_a ★★★★★
() автор топика
Ответ на: комментарий от sin_a

Ничего простого там нет. Простая книжка начинается с того

Книга для младших научных работников и студентов старших курсов. А вы требуете от нее быть букварем.

Вообще, этот случай неплохо иллюстрирует что чтение книг не имеет никакого смысла.

На этом предлагаю закончить.

Obezyan
()
Ответ на: комментарий от anonymous

Отлично. Чтобы задать, например, формальную систему, нужно алфавит, набор выражений и правила вывода. Задание набора базовых выражений, надо полагать, должно соответствовать, в некотором роде, объективной реальности. Причём, некоторые явления объективной реальности можно вывести через другие, а некоторые и нужно задать. Что имеет смысл задать в виде базового набора выражений?

sin_a ★★★★★
() автор топика

И какой должна быть база в таком случае? Вот взять слово кошка с ее скажем 20 тысячами значений. Поместим это в базу. Компьютер как сообразит что с ней делать? Ему нужен подход, соответственно ему придется применять сотни тысяч параметров чтобы понять что делать с кошкой. Чтобы понять что делать с предприятием нужно внести помимо прочему условия существования в обществе, текущие тенденции и вывести опыт в плюс с автоматизацией процессов насколько это возможно. Вот ту же акустику у нас начали производить. ИИ даст прирост производства в разы. Тут есть какой-то смысл, так как очевидно что поставка ресурсов будет стабильная. А как себя поведет ИИ в случае европейского газового рынка? Куда он будет метаться со спотовыми ценами с учетом того что люди не дураки и у них программы работают на бирже? Как ИИ будет учитывать фактор задержки кто первый успеет поставить ставку и кому отойдут ресурсы по хорошей цене? И самое главное как он будет решать проблему политики для доступа к ресурсам? Он же типа вырос и понял что надо что-то делать, а с чего начинать, если политиков никто не тырнет? То есть он должен предлагать массу решений, зависящих от весьма субъективных причин. Так что тут речь о создании какого-то супер ИИ что потребует просто колоссальных мощностей. Даже код писать и то сложно, а уж понять ИИ где истина, а где ложь будет весьма непросто с учетом того что его изначально кормят субъективными данными выгодными той стороне. Ну допустим он все решил, а спрос пропал потому что людям навтирали рекламной дичи и они решили вместо покупки дешево купить самое дорогое, потому что это не круто говорить что ты в ладах с головой и купил то же самое в 10 раз дешевле и вообще это же брендовый галстук. Я очень сомневаюсь что ИИ способен учесть хоть что-то из области глупости и оболванивания людей, хотя казалось бы это все та же работа с текстом.

anonymous
()
Ответ на: комментарий от anonymous

Эти рассуждения стоят на «обучении по прецедентам». Разница между подходами это разница между рассуждениями прикладными и общего характера. Как там было, «— Извини, Теодор, но это ты очень странно рассуждаешь. Бессмыслица — искать решение, если оно и так есть. Речь идет о том, как поступить с задачей, которая решения не имеет. Это глубоко принципиальный вопрос, который, как я вижу, тебе, прикладнику, к сожалению, не доступен. По-моему, я напрасно начал с тобой беседовать на эту тему.»

sin_a ★★★★★
() автор топика
Ответ на: комментарий от sin_a

Рейтинг это попадание в «кэш» на определенных классах задач. Попали в «кэш», задача решена, рейтинг увеличился.

к существующей модели? да без разницы, это универсальный рейтинг для всего.

anonymous
()
Ответ на: комментарий от Obezyan

Вот это прочитайте

изучается возможность представления физических метрических пространств с помощью духовных ультраметрических пространств

информационно-ментальные модели гомосексуализма

Ух, ядрёна копоть.

Nervous ★★★★★
()
Ответ на: комментарий от Nervous

Наверно автор ориентируется на каких нибудь американцев. Там всё время про секс и про блондинок. Может быть так в тех кругах сейчас принято. Бывает и некоторые преподаватели во время лекции травят шуточки полагая что так материал лучше усваивается, тут вопрос не в этом. Тут дело в том, что данный материал к поставленному вопросу никаким образом не относится. Пользователь Obezyan очень умный, хотя и стесняется своего ума, но тоже думает обучением по прецедентам, эволюцией и грубой силой.

sin_a ★★★★★
() автор топика

что такое обучение?

Допустим, у нас есть модель чего-то, которая позволяет задавать ей вопросы, касающиеся этого чего-то, и получать на них ответы.

Чтобы ответы были не слишком далеко (согласно некоторой метрике) от истины, мы можем наблюдать за точностью ответов и настраивать нашу модель — подкручивать её внутренние параметры — вручную.

А можем изобрести способ (полу)автоматической подстройки параметров — например, на основе опыта (образцов входных данных); скажем, метод обратного распространения ошибки в искусственных нейронных сетях.

Такую самонастраивающуюся модель (модель + способ подстройки параметров) можно назвать обучающейся, а процесс подстройки — обучением.

Nervous ★★★★★
()
Последнее исправление: Nervous (всего исправлений: 2)
Ответ на: комментарий от Nervous

Современные системы которые называются «нейросети» производят достаточно эффектное впечатление. Но их результат принципиально неопределённый. И это совершенно не то, чего следует ожидать от вычислительной техники.

Но моделирование может быть разным. Формальная система это тоже модель.

sin_a ★★★★★
() автор топика
Ответ на: комментарий от sin_a

моделирование может быть разным

Отож. Не нейросетями едиными, как говорится. Нейросети — это только один из способов организации вычислительного процесса, и обучающимися могут быть не только нейросети.

Nervous ★★★★★
()

Как обучить компьютер?

Никто не знает как человека обучить, кроме Макаренко, а он давно умер, от огорчения. А вы на компутер замахнулись…

Pohmetolog
()
Ответ на: комментарий от Nervous

Да, название в общем получилось несколько провокационным, но я и сразу и далее отмечал что именно меня интересует. А именно, не создание условий для выч. техники чтобы «оно эволюционировало», а задание готовой модели, которая сможет дополняться.

sin_a ★★★★★
() автор топика

Но можно что нибудь сказать об этой основе? Что в ней может быть? Какова структура?

Я так понял LLM вы не уважаете за то, что это черные ящики, но ведь кроме LLM и нет ничего, что

Положим что система «понимает» это явление и может отвечать на вопросы о нём.

goingUp ★★★★★
()
Ответ на: комментарий от sin_a

Я понял, вы спрашиваете

Что необходимо поместить в систему в качестве начальной модели и каков регламент для дополнения и изменения модели.

о каком-то сферическом ИИ в вакууме, которого пока не существует, у мировых лоровских экспертов) Я сначала не понял, но теперь одобряю)

goingUp ★★★★★
()

Здесь под обучением я не хочу иметь в виду популярную тему «обучение по прецедентам». Этот подход безусловно может приносить определённый результат и конечно полезен, но в довольно узких рамках.

Вот здесь заблуждение, сразу же ограничивающее мышление и рассмотрение существующих подходов к Machine Learning вцелом.

За пределами этих границ ожидать от этой технологии чего либо всерьёз, конечно, наивно.

Мы этого не знаем. Даже Сэм Олтмен не знает, чего ожидать.

XOXO
()
Последнее исправление: XOXO (всего исправлений: 1)