История изменений

эта проблема не стоит для нейросеток, которые не обучаются на контенте, сгенерированном нейросетками.Для LLM это проблема именно потому что данные для её обучения берутся из открытых источников — во многом «из этих ваших интернетов» — и именно в «эти ваши интернеты» всякие GPT теперь своим выхлопом и срут.

А в чем принципиальная разница срут ли в эти ваши интернеты нейросетки работающие на кремниевой основе или на биологической? Идею о плоской Земле вовсе не GPT высрало.Как и кучу других не менее бредовых идей. А труды иных философов почитаешь - так они куда больше похожи на продукт деятельности GPT чем на написанное человеком.

С другой стороны - среди тонн бреда периодически проскакивает нечто полезное. В западной корпоративной культуре есть даже такой способ решения проблем когда собирается совещание и все сидят придумывают способы решения,даже бредовые. А потом среди «нагенерированного» ищут те крупицы золота которые там вполне нередко бывают и успешно находятся. Так вот нейросетка в компе способна не только идей на заданную тему нагенерировать быстрее чем человеки,но уже и с некоторой степенью точности их проанализировать отбросив самые бредовые. А учитывая что нейросетка обучена на куда больших объемах данных чем даже самый эрудированный человек-специалист - совсем не факт что она не сможет подсказать хорошее решение. Например которое хотя когда-то где-то и было придумано человеками,но совсем в другой области деятельности. Однако окажется применимым и здесь. Это во времена примерно Ломоносова можно было быть ученым-универсалом. Сейчас такое невозможно из-за аппаратных ограничений биологической нейросетки у нас в голове. А вот кремниевая - может. У нее даже сейчас нет особых технических проблем знать всю информацию которая вообще доступна в цифровом виде. Например в Российской национальной библиотеке объем фондов 39 млн единиц хранения. Для человека - безумная величина,учитывая что даже очень много читающий человек за всю жизнь физически может прочесть лишь несколько тысяч книг. А вот для кремниевой нейросетки усвоить миллионы книг не выглядит чем-то невозможным даже прямо сейчас. Можно ради интереса даже прикинуть чисто технические ограничения для компа,который можно было бы под это дело построить имея денег ну допустим столько как у кого-нибудь из выдающихся российских олигархов.

В итоге имеем то,что биологическая нейросетка будет заниматься бредогенерацией на основе в десятки и сотни раз меньшего объема усвоенных данных чем кремниевая. Настолько эрудированному нечеловеку было бы интересно позадавать вопросы.

Я не о том, что симуляция на основе симуляции — это хорошо. Я о том, что такая ситуация не возникает (тем более сама по себе и неконтроллируемо) в большинстве случаев.

Она возникает и в мире биологических нейросеток,но как показывает история человечества - фатальной не является. Да, были периоды когда достаточно большие группы людей подпадали под влияние идей,возникших на основе не совсем корректных симуляций. Например таких как симуляция экономики и общества по Марксу. Но и оттуда в конце концов удавалось извлечь нечто полезное, отбросив явно ошибочное.

эта проблема не стоит для нейросеток, которые не обучаются на контенте, сгенерированном нейросетками.Для LLM это проблема именно потому что данные для её обучения берутся из открытых источников — во многом «из этих ваших интернетов» — и именно в «эти ваши интернеты» всякие GPT теперь своим выхлопом и срут.

А в чем принципиальная разница срут ли в эти ваши интернеты нейросетки работающие на кремниевой основе или на биологической? Идею о плоской Земле вовсе не GPT высрало.Как и кучу других не менее бредовых идей. А труды иных философов почитаешь - так они куда больше похожи на продукт деятельности GPT чем на написанное человеком.

С другой стороны - среди тонн бреда периодически проскакивает нечто полезное. В западной корпоративной культуре есть даже такой способ решения проблем когда собирается совещание и все сидят придумывают способы решения,даже бредовые. А потом среди «нагенерированного» ищут те крупицы золота которые там вполне нередко бывают и успешно находятся. Так вот нейросетка в компе способна не только идей на заданную тему нагенерировать быстрее чем человеки,но уже и с некоторой степенью точности их проанализировать отбросив самые бредовые. А учитывая что нейросетка обучена на куда больших объемах данных чем даже самый эрудированный человек-специалист - совсем не факт что она не сможет подсказать хорошее решение. Например которое хотя когда-то где-то и было придумано человеками,но совсем в другой области дейстельности. Однако окажется применимым и здесь. Это во времена примерно Ломоносова можно было быть ученым-универсалом. Сейчас такое невозможно из-за аппаратных ограничений биологической нейросетки у нас в голове. А вот кремниевая - может. У нее даже сейчас нет особых технических проблем знать всю информацию которая вообще доступна в цифровом виде. Например в Российской национальной библиотеке объем фондов 39 млн единиц хранения. Для человека - безумная величина,учитывая что даже очень много читающий человек за всю жизнь физически может прочесть лишь несколько тысяч книг. А вот для кремниевой нейросетки усвоить миллионы книг не выглядит чем-то невозможным даже прямо сейчас. Можно ради интереса даже прикинуть чисто технические ограничения для компа,который можно было бы под это дело построить имея денег ну допустим столько как у кого-нибудь из выдающихся российских олигархов.

В итоге имеем то,что биологическая нейросетка будет заниматься бредогенерацией на основе в десятки и сотни раз меньшего объема усвоенных данных чем кремниевая. Настолько эрудированному нечеловеку было бы интересно позадавать вопросы.

Я не о том, что симуляция на основе симуляции — это хорошо. Я о том, что такая ситуация не возникает (тем более сама по себе и неконтроллируемо) в большинстве случаев.

Она возникает и в мире биологических нейросеток,но как показывает история человечества - фатальной не является. Да, были периоды когда достаточно большие группы людей подпадали под влияние идей,возникших на основе не совсем корректных симуляций. Например таких как симуляция экономики и общества по Марксу. Но и оттуда в конце концов удавалось извлечь нечто полезное, отбросив явно ошибочное.