Новая странная функция Google, которая советует есть камни и пиццу с клеем
AI Overviews — умная поисковая система, которая обобщает результаты поиска. Она использует генеративный искусственный интеллект — та же технология, что и в конкурирующем продукте ChatGPT.
Вы можете задать вопрос «как сохранить бананы свежими подольше», и программа с помощью искусственного интеллекта выдаст полезные рекомендации, например, как хранить их в прохладном, темном месте и подальше от других фруктов, таких как яблоки.
Однако иногда система выдает абсолютно безумные, катастрофические и даже опасные советы! Например, ИИ предложил спрыгнуть с моста «Золотые Ворота», когда пользователь ввел в поиск «я чувствую депрессию».
«Вредные советы»
Некоторые пользователи, которые получили доступ к новой функции рассказали подробно о своих запросах поиска и полученных ответах. Например, ИИ уверен, что «астронавты встречали кошек на Луне, играли с ними и обеспечивали уход».
Если такие ответы могут казаться безобидными и смешными, то некоторые действительно пугают! Например, рекомендация «съедать хотя бы один маленький камешек в день», поскольку «камни являются важным источником минералов и витаминов». Также предлагается добавлять клей в начинку для пиццы...
Почему это происходит?
Одна из фундаментальных проблем заключается в том, что инструменты генеративного ИИ не знают, что является правдой. Они основываются на том, что популярно. В Интернете не так много статей о том, как есть камни, поскольку это, очевидно, плохая идея. В качестве источников AI Overviews может использовать статьи на Reddit и сатирические сайты.
Другая проблема заключается в том, что инструменты генеративного ИИ не соответствуют нашим ценностям. Они обучаются на большом количестве веб-ресурсов.
И хотя сложные методы (такие как «обучение с подкреплением на основе обратной связи с человеком» или RLHF) используются для устранения наихудших ситуаций, неудивительно, что они отражают некоторые предубеждения, теории заговора и многое другое, что можно найти в Интернете.
Это будущее поиска?
Если это действительно будущее поиска, то нас ждет нелегкий путь. Google, конечно же, хочет соревноваться с OpenAI и Microsoft. Финансовые стимулы для того, чтобы возглавить гонку ИИ, огромны. Таким образом, Google ведет себя менее осмотрительно, чем в прошлом, передавая технологию в руки пользователей.
Это рискованная стратегия для Google. Это чревато потерей доверия общественности к Google как к месту, где можно найти (правильные) ответы на вопросы. Но Google также рискует подорвать свою бизнес-модель стоимостью в миллиард долларов. Если мы больше не будем переходить по ссылкам, а просто прочитаем их краткое содержание, как Google сможет продолжать зарабатывать деньги? Поэтому, вероятность расширения такого поиска очень мала.