Новая математическая модель поможет защитить нашу частную жизнь от атаки ИИ
Ученые из Оксфордского института интернета вместе с коллегами из других университетов разработали математическую модель, которая помогает оценить риски и опасности, связанные использования ИИ-инструментов. Результаты исследования опубликованы в журнале Nature Communications.
Ведущий автор исследования доктор Люк Роше говорит: «Мы рассматриваем наш метод как новый подход, позволяющий оценить риск деанонимизации при публикации разных видов данных в критических условиях с высоким риском. В таких местах, как больницы, доставка гуманитарной помощи или пограничный контроль, риски очень высоки, и необходимость в точной и надежной идентификации имеет первостепенное значение».
Метод опирается на байесовскую статистику и позволят оценить, как различные методы идентификации будут работать в больших масштабах, в различных приложениях и поведенческих условиях. Исследование весьма своевременно, учитывая проблемы, возникающие с анонимностью и неприкосновенностью частной жизни в связи с быстрым развитием методов идентификации на основе ИИ. Например, в настоящее время испытываются инструменты ИИ для автоматической идентификации людей по голосу в онлайн-банкинге, по глазам при оказании гуманитарной помощи или по лицу в правоохранительных органах.
По мнению исследователей, новый метод может помочь организациям и компаниям найти оптимальный баланс между преимуществами технологий ИИ и необходимостью защиты личной информации людей, сделав повседневное взаимодействие с технологиями более безопасным и надежным.
Люк Роше говорит: «Мы ожидаем, что эта работа окажет большую помощь исследователям, специалистам по защите данных, комитетам по этике и другим практикам, стремящимся найти баланс между обменом данными для исследований и защитой частной жизни граждан».