57 млн рублей в день: сколько Microsoft тратит на нейросеть ChatGPT
Рост интереса к ChatGPT вынуждает OpenAI тратить все больше. По данным экспертов, поддержка инфраструктуры и вычислительных ресурсов ИИ обходится компании в 700 000 долларов в день.Однако, OpenAI планирует снизить расходы, создав собственный, более доступный и энергоэффективный центр обработки данных, в котором вычисления будут осуществляться на графических процессорах.
Обучение масштабных языковых моделей, таких как ChatGPT, стоит свыше 4 миллионов долларов, как показывают данные аналитиков. Тем не менее, операционные и вычислительные затраты при массовом использовании существенно превышают первоначальные инвестиции.
Почему ChatGPT стоит так дорого?
Стоит отметить, что компании, эксплуатирующие языковые модели OpenAI, тратят солидные средства на поддержание бесперебойной работы ИИ. Стоимость обработки запросов ChatGPT объясняется его популярностью, так как он обрабатывает миллионы данных из разных уголков мира каждую минуту.
ИИ использует огромные вычислительные мощности, основанные на пользовательском спросе, и опирается на дорогостоящую технологическую инфраструктуру. Большая часть расходов ChatGPT связана с обслуживанием мощных серверов. Представитель OpenAI говорит, что эксплуатация модели может стать еще дороже (с GPT-4), так как текущие оценки основаны на GPT-3.
Проблема стоимости обработки данных касается не только ChatGPT, но и для других нейросетей, работающих с текстом. Они требуют специализированных GPU в данных центрах, что влечет за собой большие затраты на обслуживание, модернизацию и электроэнергию.
Microsoft и OpenAI изучают возможность замены видеокарт Nvidia на продукцию Athena для снижения затрат на свою ИИ-модель. Графические процессоры Athena, разрабатываемый с 2019 года, поможет Microsoft догнать Google и Amazon, которые уже имеют собственные чипы для обработки данных. В настоящее время около 300 сотрудников Microsoft занимаются разработкой чипа, который будет запущен для внутреннего использования в следующем году. Экономия от использования нового чипа будет существенной для обеих компаний — Microsoft и OpenAI.