Почему люди боятся своих цифровых двойников
Исследование, проведенное в Университете Британской Колумбии, сосредоточилось на отношении человека к его цифровому двойнику. Благодаря развитию приложений deepfake, сегодня возможно цифровое копирование внешности и поведения человека. Хотя пока точность далеко не идеальная, технологии движутся в этом направлении.
Зеркальное отражение человека, созданное искусственным интеллектом, ученые называли «ИИ-клоном». Ученые попробовали разобраться, чем же будут ИИ-клоны для человека и общества, как они повлияют на наше восприятия себя и наши отношения с другими людьми. В работе психологи определили три типа рисков, связанных с ИИ-клонами: фобия (боязнь своего двойника), распад личности и формирование ложных воспоминаний.
ИИ-клон
Ученые определили ИИ-клоны как цифровые репрезентации людей, созданные для отражения некоторых (или всех) аспектов реального «исходного человека».
В отличие от вымышленных персонажей в цифровой среде, ИИ-клоны основаны на существующих людях. Они имитируют визуальное сходство, манеру общения и поведенческие модели. Глубина копирования может быть самой разной: от воспроизведения определенных характерных черт до создания практически идеального цифрового двойника.
Эта технология строится на основе на персональных данных. По мере того, как объем персональных данных растет, растет и точность копирования поведения человека ИИ-клоном.
Страхи, распад личности и ложные воспоминания
Ученые представили 20 участникам эксперимента 8 вымышленных сценариев с участием ИИ-клонов. Участники размышляли о своих эмоциях и потенциальном влиянии ИИ-клона на их самовосприятие и отношения с другими людьми.
Что увидели ученые.
Во-первых, они обнаружили, что «боязнь двойника» — это страх не столько перед самим ИИ-клоном, сколько перед возможность злоупотребления. Участники беспокоились, что их цифровых двойников могут похитить и вытеснить их самих.
Во-вторых, участники эксперимента убеждены, что существует угроза распада личности. Создание ИИ-клона угрожает уникальной индивидуальности клонируемого человека, нарушая его целостное самовосприятие.
Наконец, участники выразили беспокойство по поводу того, что психологи назвали «живыми воспоминаниями», и заменой их «ложными». Это связано с опасностью, возникающей, когда человек взаимодействует с ИИ-клоном того, с кем у него уже были отношения. Участники беспокоились, что это может привести к искажению образа реального человека. Они предполагали, что у них возникнет чрезмерная привязанность к клону, и это изменит отношения в реальности.
Ученые подчеркивают, что разработка и внедрение ИИ-клонов чреваты глубокими последствиями. И все заинтересованные стороны, включая дизайнеров, разработчиков и конечных пользователей, должны ответственно подойти к освоению этой неизведанной территории. Это предполагает сознательное рассмотрение стратегий модерации и ограничение срока действия пользовательских данных для предотвращения злоупотреблений доверием.
Представьте себе, что у вас есть цифровой клон. Он выглядит, говорит и ведет себя точно так же, как вы, но он «поднялся» из глубин искусственного интеллекта. У него ваши жесты и интонации, ваша манера поведения. Как бы вы к этому отнеслись?