Развитие сложных моделей ИИ провоцирует дискуссии о том, способна ли машина обладать разумом. Авторы работы в журнале Cognition впервые напрямую сопоставили, как люди атрибутируют ментальные состояния человеку и алгоритму при идентичных паттернах поведения в одинаковых условиях.
В эксперименте приняли участие около 1100 добровольцев. Им предлагали описания персонажей, реагирующих на звуки или эмоции других людей. В одной группе персонаж описывался как человек, в другой — как система ИИ, при сохранении абсолютно одинаковых действий.
Результаты показали выразительный разрыв: даже самый активный и чуткий ИИ оценивался как существенно менее сознательный, чем пассивный человек. Поведенческое сходство не убедило респондентов в наличии у алгоритма разума.
Однако ситуация менялась при оценке «осведомленности» агента. В этом случае оценки людей и машин оказывались практически на одном уровне. Осведомленность трактуется наблюдателями функционально — как способность регистрировать информацию из среды. Понятие сознания, напротив, связывается с уникальным внутренним миром и субъективными переживаниями.
Ученые делают вывод о критической роли языка в восприятии технологий. Обыденное сознание интуитивно отделяет имитацию мышления от подлинной психической жизни, поэтому выбор терминов при описании ИИ принципиально определяет отношение к нему.
Комментарии:
Авторы исследования опирались на текстовые сценарии с описанием реакций персонажей, что неизбежно задает определенные рамки восприятия и может отличаться от опыта непосредственного интерактивного контакта с технологией. Тем не менее работа очень точно подсвечивает методологическую силу формулировок: простая замена понятия «сознание» на «осведомленность» практически устранила разрыв между оценками искусственного интеллекта и живого человека.
Меня в этих результатах особенно зацепило то, насколько бережно и интуитивно мы охраняем ценность субъективного опыта. Даже самая виртуозная поведенческая имитация сопереживания не убеждает нас в наличии души у алгоритма — нам принципиально важно знать, что за словами скрывается живая уязвимость, а не холодная вычислительная оптимизация. То, как выбор определений кардинально переворачивает наше отношение к объекту, наглядно подтверждает работу когнитивных установок — подробнее об этом механизме я рассуждала в разборе того, как фильтры нашего восприятия меняют реальность. А как вы ощущаете эту грань: важна ли вам подлинность эмоций собеседника, если внешне поддержка кажется идеальной?