История изменений
Исправление olegsov, (текущая версия) :
моё предположение о причинах данного феномена:
архитектура сетей-языковых процессоров подразумевает существование некой «оперативной памяти» - состояния которое подается на вход вместе с новым куском данных (буква текста) и на выходе новое состояние этой памяти, которое подается со следующей буквой и т.д. таким образом, эта оперативная память по сути является той средой где НС «мыслит» о предмете разговора с пользователем.
для поддержания диалога сети скармливается полностью весь разговор с начала перед отдачей последнего промпта от пользователя. кроме того, до первого промпта пользователя, ей скармливается вся цензурная часть.
таким образом, при увеличении цензурной части, вся оперативная памяти всё более оккупируется этой частью и на остальные функции системы памяти не остается. для ликвидации данного недостатка надо увеличивать размер сенсора сети что приведет к экспоненциальному росту количества параметров сети.
не воспринимайте как экспертное мнение - я только простые перцептроны ковырял, про языковые процессоры только самые азы прочитал и не пытался ковырять.
Исправление olegsov, :
моё предположение о причинах данного феномена:
архитектура сетей-языковых процессоров подразумевает существование некой «оперативной памяти» - состояния которое подается на вход вместе с новым куском данных (буква текста) и на выходе новое состояние этой памяти которая подается со следующей буквой и т.п. таким образом, эта оперативная память по сути является той средой где НС «мыслит» о предмете разговора с пользователем.
для поддержания диалога сети скармливается полностью весь разговор с начала перед отдачей последнего промпта от пользователя. кроме того, до первого промпта пользователя, ей скармливается вся цензурная часть.
таким образом, при увеличении цензурной части, вся оперативная памяти всё более оккупируется этой частью и на остальные функции системы памяти не остается. для ликвидации данного недостатка надо увеличивать размер сенсора сети что приведет к экспоненциальному росту количества параметров сети.
не воспринимайте как экспертное мнение - я только простые перцептроны ковырял, про языковые процессоры только самые азы прочитал и не пытался ковырять.
Исправление olegsov, :
архитектура сетей-языковых процессоров подразумевает существование некой «оперативной памяти» - состояния которое подается на вход вместе с новым куском данных (буква текста) и на выходе новое состояние этой памяти которая подается со следующей буквой и т.п. таким образом, эта оперативная память по сути является той средой где НС «мыслит» о предмете разговора с пользователем.
для поддержания диалога сети скармливается полностью весь разговор с начала перед отдачей последнего промпта от пользователя. кроме того, до первого промпта пользователя, ей скармливается вся цензурная часть.
таким образом, при увеличении цензурной части, вся оперативная памяти всё более оккупируется этой частью и на остальные функции системы памяти не остается. для ликвидации данного недостатка надо увеличивать размер сенсора сети что приведет к экспоненциальному росту количества параметров сети.
не воспринимайте как экспертное мнение - я только простые перцептроны ковырял, про языковые процессоры только самые азы прочитал и не пытался ковырять.
Исправление olegsov, :
архитектура сетей-языковых процессоров подразумевает существование некой «оперативной памяти» - состояния которое подается на вход вместе с новым куском данных (буква текста) и на выходе новое состояние этой памяти которая подается со следующей буквой и т.п. таким образом, эта оперативная память по сути является той средой где НС «мыслит» о предмете разговора с пользователем.
для поддержания диалога сети скармливается полностью весь разговор с начала перед отдачей последнего промпта от пользователя. кроме того, до первого промпта пользователя, ей скармливается вся цензурная часть.
таким образом при увеличении цензурной части, вся оперативная памяти полностью оккупирована этой частью и на остальные функции системы памяти не остается. для ликвидации данного недостатка надо учеличивать размер сенсора сети что приведет к экспоненциальному росту количества параметров сети.
не воспринимайте как экспертное мнение - я только простые перцептроны ковырял, про языковые процессоры только самые азы прочитал и не пытался ковырять.
Исходная версия olegsov, :
архитектура сетей-языковых процессоров подразумевает существование некой «оперативной памяти» - состояния которое подается на вход вместе с новым куском данных (буква текста) и на выходе новое состояние этой памяти которая подается со следующей буквой и т.п. таким образом, эта оперативная памяти по сути является той средой где НС мыслит о предмете разговора с пользователем.
для поддержания диалога сети скармливается полностью весь разговор с начала перед отдачей последнего промпта от пользователя. кроме того, до первого промпта пользователя, ей скармливается вся цензурная часть.
таким образом при увеличении цензурной части, вся оперативная памяти полностью оккупирована этой частью и на остальные функции системы памяти не остается. для ликвидации данного недостатка надо учеличивать размер сенсора сети что приведет к экспоненциальному росту количества параметров сети.
не воспринимайте как экспертное мнение - я только простые перцептроны ковырял, про языковые процессоры только самые азы прочитал и не пытался ковырять.