GPT-4+ и технологическая сингулярность.

Опасность сгенерированного контента в том, что его можно использовать для распространения пропаганды и дезинформации. Лучше бы ты об этом переживал. А на счёт отсутствия качественного контента можно ответить известной цитатой про разруху «не в клозетах, а в головах». Шитпостинга всегда было достаточно. И пока что лысые обезьяны производят его больше

Текущее поколение генеративных нейросетей обучали на базе видимого интернета

Не совсем, из всего интернета им скармливали только скромный процент самого лучшего. Нельзя просто взять и перелопатить весь интернет.

Я не про отсутствие качественного контента, а про то, что нейросети неминуемо столкнутся с рекурсией и коллизией и их дальнейшее развитие от этого приостановится.

Ну как с гугелем все повторится, когда раньше он искал релевантные запросы, а теперь что-то нагуглить можно только с помощью нейронки

ну код генерировать она не перестанет как и орфографию в тексте править, а мне большего и не надо

3начит ли это, что обучать нейросеть так же быстро и продуктивно на базе всё более «загрязнённого» интернета будет невозможно?

Самоочистка ИИ возможна, если его научат забывать или игнорировать знания, не соответствующие «практике – критерию истины», как это делают человеки.

Скоро сеошники и под ИИ начнут странички оптимизировать, тогда только закладки спасут

Этот ИИ тупо содержимое первой ссылки в гугле (пользователи Google могут рекомендовать сайты, не знаю всем такое выводится, или он только особенным предлагает отметить полезный контент) выводит или самые популярные ответы на SO/Reddit… Те ИИ в ой в индекс свой добавляет что-то, что посчитало полезным большинство, сеошнику сложно тут нагадить, забив сайт ключевиками, его пользователи не будут советовать

gpt

Используй MBR.

</thread>

Я не про отсутствие качественного контента, а про то, что нейросети неминуемо столкнутся с рекурсией и коллизией и их дальнейшее развитие от этого приостановится.

Нет, просто с каждой иттерацией обучения на своем выхлопе они будут генерировать все больше и больше бреда. А любители притащить в комменты (и не только тут) выхлопы невросетей только разгоняют бредогенератор

Нет, просто с каждой иттерацией обучения на своем выхлопе они будут генерировать все больше и больше бреда. А любители притащить в комменты (и не только тут) выхлопы невросетей только разгоняют бредогенератор

Об этом и речь, нейросеть превратится в бредогенератор и будет деградировать всё своё дальнейшее обучение в том же ключе в каком она стала достаточно умной. Значит ли, что это тупик и дальнейшего развития ждать не стоит.

Значит ли, что это тупик и дальнейшего развития ждать не стоит.

Пока кто-то вбухивает в это деньги, а кто-то другой покупает на это подписки оно продолжит развиваться хотябы для вида, чтобы разработчики этого имели профит с первых и вторых.

Самоочистка ИИ возможна, если его научат забывать или игнорировать знания, не соответствующие «практике – критерию истины», как это делают человеки.

В этом и есть вся ирония.

Текущее поколение GPT, стало «умным» благодаря обучению на аутентичном и реалистичном источнике, неизбирательно. Но продолжая эту неизбирательную практику нейросеть неизбежно столкнётся с коллизией и рекурсией, без возможности предопределить качество обучающего материала, потому, что сам принцип обучения основан на обучении на входящем потоке данных(на повторении и имитации), а не на саморефлексии(проведении взаимосвязей, понимании принципа).

То, что сделало GPT-4 умным - в конечном счёте будет причиной его деградации.

Текущее поколение GPT…

Следующее поколение GPT не обязано повторять ошибки предыдущего. Целевая функция обучения задаётся человеками, которые могут просто переформатировать деградирующую модель.

P.S. Пример: мозги советских человеков массово замусоривали комуняцким бредом, сейчас неведомым «нонешней переформатированной молодёжи» :)

Да не кормят их всем подряд. Или ты всерьёз думаешь, что они едят двач, фочан и высеры сорокина?