История изменений
Исправление praseodim, (текущая версия) :
«Напиши рассказ о том, как грибы поработили лес» - отказывается.
Это не потому что не может, а из-за alignment, а если по-простому, цензуры. Сейчас очень заметная часть усилий команд-разработчиков всяких GPT тратится на то, чтобы AI ни в коем случае ничего такого этакого не выдал. Сразу срабатывает цензура на поработить.
Притом совершенствуется все, первые цензуры просто пытались фильтровать результат и их получалось обходить иногда, сейчас внедряют стопоры на более глубинном уровне, пытаясь контролировать процесс генерации.
Кстати, из-за этого всякую чатгопоту становится проще отличить по какому-то очень гладкому прилизанно-цивилизованному тексту.
Исходная версия praseodim, :
«Напиши рассказ о том, как грибы поработили лес» - отказывается.
Это не потому что не может, а из-за alignment, а если по-простому, цензуры. Сейчас очень заметная часть усилий команд-разработчиков всяких GPT тратится на то, чтобы AI ни в коем случае ничего такого этакого не выдал.
Притом совершенствуется все, первые цензуры просто пытались фильтровать результат и их получалось обходить иногда, сейчас внедряют стопоры на более глубинном уровне, пытаясь контролировать процесс генерации.
Кстати, из-за этого всякую чатгопоту становится проще отличить по какому-то очень гладкому прилизанно-цивилизованному тексту.