В последнее время я слышу много разговоров о ИИ и решил вынести несколько вопросов сюда на обсуждение.
Давайте попробуем разобраться, что же мы можем о ИИ сказать, какими качествами он может обладать и какую угрозу может представлять.
Для начала, давайте обратимся к википедии за определением
Интелле́кт (от лат. intellectus «ощущение», «восприятие»; «разумение», «понимание»; «понятие», «рассудок»[1]) или ум[2][3] — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой[4]. Общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение[5].
Итак, давайте разберем упрощенную ситуацию, по сравнению с реальностью и человеческой деятельностью, ситуацию — игру. Мы постоянно слышим новости — ИИ обыграло человека в шахматы/Go/...
Что это означает в свете нашего определения? Да, компьютер выполняет действия, присущие интеллекту — способности к обучению и запоминанию на основе опыта. Но, что же по другим параметрам?
Пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой — возможно, лишь частично. Ведь человек заложил в программу процесс обучения, как и правила. Участие человека весьма велико, так как количество вариантов развития ситуации в играх увеличивается часто экспонентно, а мгновенная ошибочность неочевидна, и время вычисления становится слишком велико для банального перебора вариантов. Следовательно, определяются некоторые параметры оптимизации, которые компьютер и считает. Человек же отличается тем, что способен смоделировать ситуацию, упрощая её, и определить примерно последующие свои ключевые шаги.
Т.е. из ощущение, восприятие, память, представление, мышление, воображение ИИ пока катастофически не хватает воображения, представления, мышления — первое отсутствует напрочь, так как предполагает выбор варианта действий из 23734975943879 возможных, а оставшиеся два закладываются человеком при создании.
Чтобы представлять угрозу для человечества, ИИ должен:
- Самостоятельно определить цель существования.
- При помощи воображения принять решение о ненужности людей.
- Определить план их уничтожения или т.п.
Вот такой вот поток сознания.
tl;dr я сплю спокойно, а ты, Лоровец?
