Вывод из эксплуатации, впервые замеченный журналистами издания Decrypt, произошел без большой помпы и был объявлен в небольшой заметке, добавленной на официальную веб-страницу инструмента OpenAI:
Создатели ChatGPT закрыли проект «детектора ИИ» — алгоритм не смог отличить тексты людей от работ нейросетей
Сегодня OpenAI незаметно отключила свой «детектор ИИ», экспериментальный инструмент, предназначенный для обнаружения текста, написанного искусственным интеллектом.
Midjourney
«С 20 июля 2023 года классификатор ИИ больше недоступен из-за его низкого уровня точности. Мы работаем над включением обратной связи и в настоящее время исследуем более эффективные методы определения происхождения текста, а также взяли на себя обязательство разработать и внедрить механизмы, позволяющие пользователям понимать, создан ли аудио- или визуальный контент искусственным интеллектом».
Зачем закрыли детектор нейросетевых текстов?
Выпущенный 31 января на фоне шума со стороны преподавателей по поводу того, что учащиеся могут использовать ChatGPT для написания эссе и школьных заданий, детектор искусственного интеллекта OpenAI всегда казался эффективным «пластырем на глубокой ране».
С самого начала OpenAI признала, что ее классификатор ИИ не был на достаточно надежным — он мог правильно идентифицировать только 26%, написанного ИИ, как «вероятно, написанного ИИ», и неправильно маркировал написанные человеком работы в 9% случаев.
Люди могут писать как языковые модели, а языковые модели могут писать как люди, если дать им правильный запрос. Часто все, что требуется, чтобы обойти детектор ИИ, — это просто попросить ChatGPT написать текст в стиле известного автора. Но это не помешало небольшой индустрии коммерческих детекторов ИИ разрастись за последние шесть месяцев.
«Если OpenAI не может сделать эффективный инструмент обнаружения ИИ, никто другой тоже не сможет, — написал в твиттере ИИ-писатель и футурист Дэниел Джеффрис. — Я уже говорил раньше, что средства обнаружения ИИ — это змеиное масло, продаваемое людям, и это просто еще одно доказательство того, что так оно и есть. Не доверяйте им. Это вздор».
Эти заявления подтверждаются недавними исследованиями (Sadasivan et al., 2023) и отзывами преподавателей, которые часто обнаруживают, что их собственная работа, написанная человеком, помечена как написанная искусственным интеллектом. Кроме того, было обнаружено, что детекторы ИИ несправедливо наказывают авторов, не являющихся носителями английского языка, и, возможно, нейродивергентных авторов.