Дипфейки вокруг нас: ученые нашли лайфхак, как можно распознать поддельный голос

Дипфейки аудио потенциально представляют еще большую угрозу, потому что люди часто общаются устно без видео — например, с помощью телефонных звонков, радио и голосовых записей. Эти голосовые сообщения значительно расширяют возможности злоумышленников использовать подделки.

Люди говорят, прогоняя воздух над различными структурами голосового тракта, включая голосовые связки, язык и губы. Перестраивая эти структуры, вы изменяете акустические свойства своего голосового тракта, благодаря чему можете создавать более 200 различных звуков или фонем. Однако анатомия человека существенно ограничивает акустическое поведение этих разных фонем, что приводит к относительно небольшому диапазону звуков для каждой.

Дипфейк, напротив, создается путем предварительного прослушивания компьютером аудиозаписей жертвы. В зависимости от используемых методов компьютеру может потребоваться прослушать всего от 10 до 20 секунд аудио. Этот звук используется для извлечения ключевой информации об уникальных аспектах голоса жертвы.

Злоумышленник выбирает фразу, которую будет произносить голос, а затем, используя модифицированный алгоритм преобразования текста в речь, генерирует аудиозапись того, как нужную фразу говорит жертва. Этот процесс создания одного образца подделанного аудио может быть выполнен за считанные секунды, что потенциально позволяет злоумышленникам достаточно гибко использовать поддельный голос в разговоре.

Злоумышленники собирают аудиозаписи из аккаунтов жертв в социальных сетях и обрабатывают их с помощью приложений для преобразования текста в речь. Эти приложения, доступные онлайн и имеющие законное применение, способны генерировать новый аудиоконтент, который звучит так, как будто его произнесла оригинальная жертва.

Как именно мошенники используют эти технологии? Способы варьируются. Например, преступник может создать голосовое сообщение, в котором жертва звучит расстроенной и отчаянно нуждающейся в финансовой помощи. Это сообщение затем отправляется членам семьи жертвы с надеждой на то, что они не смогут отличить подделку от оригинала.

С развитием технологий дипфейков имитация голосов стала проще, что привело к появлению новой схемы мошенничества. Теперь злоумышленники используют фальшивые аудиозаписи для обхода голосовых мер безопасности на платформах онлайн-банкинга. Это вызывает серьезные опасения как у пользователей, стремящихся защитить свои банковские данные, так и у финансовых учреждений, которые обязаны обеспечивать безопасность счетов своих клиентов.

Для обнаружения дипфейков звука ученые из Университета Флориды разработали метод, который измеряет акустические и динамические различия между голосовыми сэмплами, созданными органически человеком, и теми, которые генерируются синтетически компьютерами.

Ученые разработали программу, которая может сравнивать возможность воспроизведения звуков человеческой гортанью. Исследователи показали, что дипфейковые аудио нередко включают в себя звуки, которые человеческая гортань в принципе извлечь не может. Программа ученых способна их распознать и сделать вывод о том, является ли аудиозапись фейковой или нет.

При исследовании голосового тракта в аудиозаписях дипфейков ученые сделали интересное открытие: характеристики этих голосов часто оказываются комично неверными. Например, в записях дипфейков голосовые тракты имеют диаметр и продолжительность, сопоставимые с соломинкой для питья. Иными словами, фразы звучат так, будто горло человека — трубка, а не сложная система. У людей голосовые тракты гораздо шире и обладают разнообразной формой.

Это открытие подчеркивает, что, хотя дипфейк-аудио может звучать убедительно для человеческих слушателей, оно все же не является полностью неотличимым от настоящей человеческой речи. Анализируя анатомические особенности, отвечающие за формирование звуков, исследователи могут точно определить, был ли звук сгенерирован человеком или компьютером.

Хотя определить, общаетесь ли вы с мошенником, может быть непросто, существует множество явных признаков, указывающих на то, что вы столкнулись с мошенничеством, связанным с использованием голосового ИИ. Рекомендуется придерживаться нескольких советов, чтобы защитить себя.

Даже если у вас установлена блокировка спам-звонков, вероятность получения нежелательных вызовов все равно остается. Поэтому важно быть осторожными с теми звонками, которые вы принимаете. Лучше всего не отвечать на незнакомые номера, и вот почему: во-первых, ответ может увеличить риск становления жертвой мошенников. Во-вторых, если вы заговорите с незнакомцем, мошенник может записать ваш голос и использовать его для обмана ваших близких.

Если вы все же ответили на звонок с неизвестного номера, не спешите говорить первым — дождитесь, пока звонящий что-то скажет. Если он молчит, просто завершите вызов. Если звонящий что-то говорит, но вы сомневаетесь в правдивости его слов, проверьте информацию. Например, если он утверждает, что это ваш родственник и у него возникла экстренная ситуация, отправьте сообщение этому человеку через сохраненный контакт, чтобы убедиться, что это действительно он, прежде чем принимать какие-либо решения.

Блокировка спам-звонков является одним из самых эффективных способов защиты от нежелательных звонков, которые могут исходить от мошенников. Существует два основных метода, позволяющих сократить количество таких звонков:

Еще одним способом защиты от мошеннических звонков является создание кодового слова для экстренных случаев. Это слово может использоваться для подтверждения личности при получении звонка, связанного с реальной чрезвычайной ситуацией. Таким образом, если вам или вашим близким поступит тревожный звонок, использование кодового слова поможет удостовериться, что звонящий действительно тот, за кого себя выдает.

Важно помнить, что разглашение даже самых простых данных, таких как ваш адрес или электронная почта, может предоставить мошенникам достаточно информации для кражи вашей личности. Чтобы защитить свои учетные записи в интернете от финансового мошенничества, рекомендуется регулярно менять пароли и включать двухфакторную аутентификацию.

Если вам звонят и просят предоставить конфиденциальную информацию или оказывают давление, лучше всего завершить разговор и перезвонить по известному номеру, чтобы напрямую связаться с тем, кто, по их словам, вам звонит. Убедитесь, что у него действительно есть какие-либо проблемы. Если связаться с ним не удается, позвоните другим друзьям или членам семьи для проверки информации.

Если вы случайно поделились конфиденциальной информацией или подозреваете, что мошенники могут получить доступ к вашим финансовым счетам, важно как можно скорее сообщить об этом своему банку и эмитентам кредитных карт. Это позволит вам аннулировать карты и попытаться отменить любые мошеннические транзакции. Также целесообразно установить предупреждения о мошенничестве на своих счетах, чтобы получать уведомления о дальнейших попытках кражи ваших средств.

Если вы подозреваете, что звонок может быть мошенническим или связан с чрезвычайной ситуацией, попросите кого-то другого позвонить в службу 911, пока вы общаетесь по телефону. Это поможет обеспечить вашу безопасность и безопасность окружающих.

Мошенники могут использовать любую доступную им информацию о вас. Чем меньше видео, голосовых записей и личных данных они смогут найти в интернете, тем сложнее им будет нацелиться на вас с помощью мошеннических схем, включая голосовые атаки с использованием искусственного интеллекта.

Эти современные решения предлагают проактивную защиту от различных киберугроз. В дополнение к защите от голосовых мошеннических атак с применением ИИ, такие инструменты помогут вам противостоять вредоносному программному обеспечению, программам-вымогателям, фишинговым атакам, DDoS-атакам и уязвимостям нулевого дня.