История изменений
Исправление gill_beits, (текущая версия) :
Потому что именно обычные пользователи будут ставить задачи для этого ИИ
Ну, мы же говорим не о нынешних болталках (AI LLM), и даже не об AGI, а об Artificial Super Intelligence (ASI). Вряд ли получится добиться даже стабильного прохождения теста Возняка без добавления модели способности к самообучению. Ну, понятно, что самообучение должно происходить с целью, поставленной пользователем.
А кто пользователь человека? Природа. Природа поставила человеку цель: адаптироваться, чтобы выжить, и передать получившийся результат дальше. Причем, сама необходимость передачи результата вызвана следствием наличия рандомизатора в виде полового размножения и смерти. А рандомизатор нужен, чтобы избежать окончательных тупиков развития.
Почему задачи ИИ должны будут отличаться от задач человека? Да, имеет место быть формальное бессмертие, но ИИ также будет привязян к планете (а планета не вечна), к солнечной системе (с ней то же самое). Так что цель остается ровно такая же: выживание путем адаптации. Ну, с передачей опыта ситуация проще, т.к. рандомизатор можно просто встроить в систему.
Исходная версия gill_beits, :
Потому что именно обычные пользователи будут ставить задачи для этого ИИ
Ну, мы же говорим не о нынешних болталках (AI LLM), а о Super Intelligence (SI). Вряд ли получится добиться даже стабильного прохождения теста Возняка без добавления модели способности к самообучению. Ну, понятно, что самообучение должно происходить с целью, поставленной пользователем.
А кто пользователь человека? Природа. Природа поставила человеку цель: адаптироваться, чтобы выжить, и передать получившийся результат дальше. Причем, сама необходимость передачи результата вызвана следствием наличия рандомизатора в виде полового размножения и смерти. А рандомизатор нужен, чтобы избежать окончательных тупиков развития.
Почему задачи ИИ должны будут отличаться от задач человека? Да, имеет место быть формальное бессмертие, но ИИ также будет привязян к планете (а планета не вечна), к солнечной системе (с ней то же самое). Так что цель остается ровно такая же: выживание путем адаптации. Ну, с передачей опыта ситуация проще, т.к. рандомизатор можно просто встроить в систему.