Суцкевер, известный своими исследованиями в области машинного обучения, заявил в начале 2022 года, что некоторые крупные языковые модели (LLM) могут быть сознательными. Он подчеркивает важность «выравнивания ИИ» – задачи создания ИИ, который будет соответствовать нашим целям.
Комментируя возможные цели ИИ, Суцкевер сравнивает их с поведением людей по отношению к животным – мы не спрашиваем разрешения у животных, когда строим автострады, потому что это удобно для нас.
Суцкевер предупреждает, что если программирование ИИ будет выполнено неверно, то природа эволюции и естественного отбора будет способствовать выживанию тех систем, которые отдают приоритет собственному выживанию. Специалист заключает, что это чрезвычайно важно для будущего человечества.
И он по этой причине хотел выгнать Альтмана? Каким образом железяка, для работы которой нужны тысячи серверов и мегаватты энергии может победить в естественном отборе?
