Microsoft выпустила чат-бота Bing, когда тот был еще не готов — разработчики предупреждали
Напряженность и неразбериха сделали партнерство между Microsoft и OpenAI «неловким», рассказали эксперты, опрошенные Wall Street Journal. Кстати, эта напряженность и неразбериха распространились не только на внутреннюю команду Microsoft по искусственному интеллекту, которая, по—видимому, имеет дело с сокращением бюджета и ограниченным доступом к технологии OpenAI. По словам источников, это также омрачило анонс чат-бота Bing на базе искусственного интеллекта в феврале прошлого года.
Bing не готов
В то время было обнаружено, что Bing уязвим для атак с использованием быстрых инъекций, раскрывающих секреты компании и предоставляющих иногда неточные и по-настоящему пугающие ответы на запросы пользователей.
Согласно WSJ, OpenAI предупредил Microsoft «об опасностях поспешной интеграции технологии OpenAI без дополнительного обучения» и «предложил Microsoft медленнее интегрировать свою технологию искусственного интеллекта с Bing».
Главной проблемой OpenAI было то, что нейросетевая модель Sydney, на которой работает Bing, могла давать неточные или сбивчивые ответы, но Microsoft, похоже, проигнорировала это предупреждение.
В интервью, опубликованном сегодня, генеральный директор Microsoft Сатья Наделла отметил, что ранний анонс Sydney был просто частью плана Microsoft — якобы компания хотела обучить бота реагировать на реальные запросы, которые нельзя было протестировать в лаборатории.
«Мы не запустили Sydney с GPT-4 в первый день, когда я его увидел, потому что нам пришлось проделать большую работу по созданию системы безопасности, — сказал Наделла Wired. — Но мы также знали, что не сможем выполнить всю настройку в лаборатории. Чтобы привести модель искусственного интеллекта в реальный мир, вы должны привести ее в соответствие с миром, а не с какой-то симуляцией. "
Отчасти поэтому Microsoft все равно поспешила с этим, но источники сообщили WSJ, что спешка была также частично вызвана руководителями Microsoft, у которых были «опасения по поводу сроков запуска ChatGPT прошлой осенью».