Кибермошенники создают с помощью ИИ фишинговые сайты. Как им противостоять
Программное обеспечение, созданное группой исследователей из Техасского университета в Арлингтоне, позволяет чат-ботам с искусственным интеллектом обнаруживать и отклонять запросы, вводимые пользователями, которые могут быть использованы для создания фишинговых веб-сайтов. .
В настоящее время чат-боты с искусственным интеллектом имеют некоторые встроенные возможности обнаружения попыток нелегитимного использования чат-ботов. Но соавтор работы доктор Ширин Нилизаде говорит, что ее команда нашла лазейки, которые позволяют легко обойти такие ограничения и использовать чат-ботов для создания фишинговых атак.
Думай, как преступник
С появлением чат-ботов с искусственным интеллектом онлайн-мошенничество стало доступным даже для злоумышленников с минимальными техническими навыками. Теперь для создания веб-сайта не нужны знания программирования, поскольку ИИ может создать его практически мгновенно.
«Эти инструменты очень мощные, и мы показываем, как ими могут злоупотреблять злоумышленники», — говорит Нилизаде.
По словам ученых для разработки своего инструмента группа определила различные инструкции, которые можно было бы использовать для создания фишинговых веб-сайтов. Используя эти инструкции, они успешно обучили свое программное обеспечение распознавать и реагировать на конкретные ключевые слова и шаблоны, повышая способность чат-бота обнаруживать и блокировать такие вредоносные запросы.
Работа команды привлекла значительное внимание в индустрии кибербезопасности. Исследователи обратились к крупным технологическим компаниям, которые разрабатывают чат-боты, включая Google и OpenAI, с предложением интегрировать свои результаты в более широкие стратегии безопасности ИИ. Ученые уверены, что это поможет повышению кибербезопасности.
«Я очень рада, что мне удалось поработать над этим важным исследованием», — говорит Пуджита Тота. — «Я также с нетерпением жду возможности поделиться этой работой с нашими коллегами в области кибербезопасности и найти новые приложения».