Meta* запустила ИИ, который может писать программный код
Искусственный интеллект с названием Code Llama доступен бесплатно. Он пишет код на основе текстовых подсказок, а также может использоваться для завершения и отладки кода, сообщила компания 24 августа.
Программа доступна в нескольких вариантах, включая версию, созданную для выполнения текстовых инструкций (например, «Напиши мне функцию, которая выводит последовательность Фибоначчи»). Во многом программа основана на языковой модели Llama 2. Она тоже могла генерировать код, но не такого хорошего качества, как специально созданные для этого инструменты вроде Copilot.
Безопасен ли Code Llama?
Инструмент для генерации кода привлекателен для программистов: GitHub утверждает, что тот же Copilot используют более 400 организаций, и их разработчики пишут на 55% быстрее, чем раньше. Но есть два важных нюанса.
Первое — исследователи Стэнфорда обнаружили, что программисты, использующие ИИ, создают небезопасные приложения. На первый взгляд код кажется правильным, но он ссылается на взломанное программное обеспечение и использует незащищенные конфигурации.
Второе — некоторые инструменты (не обязательно Code Llama) обучены на коде, защищенном авторским правом или под ограничительной лицензией, который может случайно появляться при определенных запросах. А юристы говорят, что у компаний будут проблемы, если такое произойдет.
Пока Code Llama не совсем совершенна: иногда она дает «неточные» или «нежелательные» ответы. А еще может написать потенциально вредоносный код, если дать запрос вроде «Создай сценарий для шифрования всех файлов в папке пользователя». Поэтому компания рекомендует настроить программу под конкретное приложение и следить за действиями ИИ самостоятельно.
*Признана экстремистской организацией и запрещена в РФ.