История изменений
Исправление no-such-file, (текущая версия) :
нужна ли человек-интерпретируемость моделей, выводимых методами машинного обучения
Есть мнение, что это вообще невозможно. Простой пример – шахматные программы. Правила известны и игра изучена за сотни лет вдоль и поперёк. AI делает ходы, которые не могут объяснить все топовые гроссмейстеры мира вместе взятые. И это хорошо, в этом собственно и смысл AI - находить такие модели, которые человеку недоступны. Любой школьник обыграет с компом гросса, точно также как и обгодит чемпиона мира по бегу сев на мопед. Желание иметь «понятные модели» всё равно что желание бегать быстрее мопеда, или рыть лопатой быстрее экскаватора: глупо и непродуктивно.
Исходная версия no-such-file, :
нужна ли человек-интерпретируемость моделей, выводимых методами машинного обучения
Есть мнение, что это вообще невозможно. Простой пример – шахматные программы. Правила известны и игра изучена за сотни лет вдоль и поперёк. AI делает ходы, которые не могут объяснить все топовые гроссмейстеры мира вместе взятые. И это хорошо, в этом собственно и смысл AI - находить такие модели, которые человеку недоступны. Любой школьник обыграет с компом гросса, точно также как и обгодит чемпиона мира по бегу сев на мопед. Желание иметь «понятные модели» всё равно что желание бегать быстрее мопеда: это глупо и непродуктивно.