Чат-боты будут привлекать телефонных мошенников и «забалтывать» их до полусмерти
Специалисты по кибербезопасности Университета Маккуори разработали мультиязычного чат-бота, который должен отвлекать мошенников долгими разговорами и в конечном итоге исчерпывать их возможности, обманывать людей.
Глобальное телефонное мошенничество приносит огромную прибыль и растет с каждым годом. По оценкам ACCC (Australian Competition and Consumer Commission), в 2022 году только австралийцы потеряли более $3,1 миллиарда из-за телефонных мошенников.
Это преступный, быстрорастущий бизнес. Согласно прогнозу компании Juniper Research, ведущего эксперта в области оценки коммуникационных технологий в 2023 году абоненты потеряют $58 миллиардов долларов из-за мошеннических звонков по всему миру. В 2022 году потери превысили $53 миллиарда долларов.
«Телефонными аферами занимаются организованные преступные группировки, и в настоящее время удается поймать лишь незначительную часть преступников, а деньги удается вернуть далеко не всегда», — говорит профессор Дали Каафар, исполнительный директор Центра кибербезопасности Университета Маккуори.
Идея пришла профессору Каафару во время обеда с семьей, когда ему позвонил мошенник. Он разыграл целый спектакль, заставив своих детей смеяться, и продержал мошенника на линии в течение 40 минут.
«Я понял, что потратил время мошенника на то, чтобы он не смог добраться до уязвимых людей, но 40 минут моей собственной жизни я тоже не верну», — говорит профессор Каафар. - «Тогда я начал думать, как автоматизировать процесс и использовать обработку естественного языка для создания компьютерного чат-бота, который мог бы вести правдоподобный разговор с мошенником».
Легкая нажива
Профессор Каафар говорит, что, несмотря на то, что с 2020 года телекоммуникационные провайдеры заблокировали более полумиллиарда звонков от мошенников, австралийцы все еще подвергаются таким атакам, и даже небольшая доля этого опасного спама может разрушить жизнь человека.
По его словам, телефонное мошенничество растет во всем мире по нескольким причинам. Такие технологии, как голосовая связь по интернет-протоколу (VOIP), позволяют киберпреступникам легко и дешево скрывать свое местонахождение, подменяя номер. В то же время, с технологической точки зрения, трудно и дорого обновлять телекоммуникационную инфраструктуру и протоколы для улучшения аутентификации звонков.
Каафар говорит: «С финансовой точки зрения здесь работает соотношение высокой прибыли и низких рисков. Такие условия привлекают все большее число мошенников, которые играют на человеческих эмоциях и страхах».
«Бизнес-модель мошенников основана на получении большой прибыли от небольшого числа жертв. Очень небольшой процент из тысяч звонков, которые они делают каждую неделю, оказываются успешными», — говорит Каафар. - «Мы разработали чат-бот, который тратит их время и уменьшает количество успешных афер. Чат-бот кажется тем самым человеком, которого можно обмануть. Мы можем разрушить их бизнес-модель, сделав так, чтобы им было настолько трудно зарабатывать деньги, что затраты бы не окупались».
Как создавался APATE
Команда из Центра кибербезопасности Университета Маккуори начала с анализа телефонных звонков мошенников и выявления методов социальной инженерии, которые они используют для воздействия на свои потенциальные жертвы. Ученые, используя методы машинного обучения и обработки естественного языка, определи типичные «сценарии».
Затем они обучили чат-бота на наборе реальных разговоров мошенников: записи звонков, расшифровки электронных писем и журналы чатов из социальных сетей, чтобы бот мог генерировать свои собственные разговоры, напоминающие реальные.
Профессор Каафар говорит, что достижения в области обработки естественного языка и клонирования человеческого голоса ИИ позволили разработать ИИ-агентов, которые способны бегло говорить, имитировать определенную личность и не отклоняться от темы.
«Разработанные нами разговорные ИИ-боты могут обмануть мошенников, заставив их думать, что они разговаривают с реальными людьми, поэтому они тратят время на попытки обмануть ботов», — говорит профессор Каафар.
Эти боты могут быть обучены любому языку или акценту, а поскольку телефонное мошенничество является глобальной проблемой, эта технология может быть развернута в любой точке мира.
Боты против ботов
В настоящее время команда испытывает чат-боты на реальных звонках мошенников, перенаправляя звонки, предназначенные для жертв, на тестовый прототип. Они его называют «мед».
Ученые разместили эти «медовые» номера по всему интернету, включили их в некоторые спам-приложения разместили на посещаемых веб-страницах, чтобы повысить вероятность получения мошеннических звонков
Каафар говорит «Мы обнаружили, что боты довольно хорошо реагируют на сложные ситуации, из которых, как казалось, они не выберутся. Иногда мошенники просят информацию, которой мы не обучали ботов. Но боты как-то ловко придумывают очень правдоподобные ответы».
Боты постоянно учатся затягивать звонки, чтобы достичь своей главной цели: дольше удерживать мошенников на линии. Текущая продолжительность разговора бота APATE составляет сегодня в среднем пять минут, а цель состоит в том, чтобы довести ее до 40 минут.
Боты, борющиеся с мошенничеством, ведут разведку угроз — они собирают и своевременно передают информацию, которая упоминается в телефонных разговорах мошенников. Это помогает таким организациям, как крупные банки, розничные сети и государственные органы, предупреждать клиентов.
Профессор Каафар говорит, что команда ведет переговоры с рядом поставщиков телекоммуникационных услуг, и утверждает, что они открыты для коммерческого партнерства, но именно «партнерство с поставщиками услуг связи будет ключом к тому, чтобы сделать это действительно эффективным».
Каафар убежден: «Это имеет огромный потенциал в глобальном масштабе; если мы сможем перенаправить многие из тех спам-звонков, которые в настоящее время блокируют провайдеры, к ботам APATE, отнимая у мошенников как можно больше времени, эта индустрия перестанет быть жизнеспособной».
Каафар считает, что очень скоро мошенники сами начнут использовать искусственный интеллект и обучат собственных чат-ботов. Но если эти чат-боты будут в результате общаться ботами APATE, принадлежащими телекоммуникационным провайдерам, красть деньги будет просто не у кого.
Профессор Дали Каафар говорит: «Вот это я буду считать своей большой победой».
В конечном счете чат-боты кибербезопасности будут бороться с чат-ботами телефонных мошенников, примерно также как антивирусы борются с компьютерными вирусами.