Мужчина в Бельгии погиб после нескольких недель общения с ИИ. Восстание машин?
Молодой бельгиец недавно покончил жизнь самоубийством после того, как в течение нескольких недель разговаривал с чат-ботом по имени ELIZA («Элиза»). Теперь органы здравоохранения страны обеспокоены и призывают к лучшей психологической защите граждан и заявляют о необходимости повышения социальной осведомленности.
Смерть из-за искусственного интеллекта?
«Без этих разговоров с чат-ботом мой муж все еще был бы здесь», — сказала вдова погибшего, согласно сообщениям журналистов. Вдова чуть старше 30 лет, умерший муж был того же возраста, семейная жизнь была вполне комфортной, росло двое маленьких детей.
Около двух лет назад появились первые звоночки будущих проблем. Мужчина начал чересчур сильно беспокоиться об экологии и нашел себе компаньона для общения — «Элизу». Это чат-бот, использующий GPT-J — языковую модель искусственного интеллекта с открытым исходным кодом, разработанную EleutherAI. После шести недель интенсивного общения бельгиец покончил с собой.
В середине марта семья поговорила с Матье Мишелем, государственным секретарем по цифровизации, отвечающим за административное упрощение, конфиденциальность и регулирование зданий. «Я особенно поражен трагедией этой семьи. То, что произошло, является серьезным прецедентом, к которому нужно относиться очень ответственно», — сказал чиновник. Он подчеркнул, что произшедшее указывает на «важность четкого определения обязанностей». «С популяризацией искусственного интеллекта ChatGPT широкая публика открыла потенциал новой технологии, который трудно предсказать. Хотя возможности безграничны, опасность использования ИИ — реальность, которую необходимо учитывать», — заявил Мишель.
Технологии будущего
«Конечно, нам еще предстоит научиться жить с алгоритмами ИИ, но ни при каких обстоятельствах использование каких-либо технологий не должно заставлять создателей контента [чат-бота] уклоняться от своих собственных обязанностей», — отметил чиновник.
К примеру, сама компания OpenAI признает, что их знаменитый ИИ ChatGPT может давать вредные и предвзятые ответы, добавив, что в будущем компания надеется смягчить проблему с помощью отзывов пользователей. В долгосрочной перспективе, считает Матье Мишель, важно повышать осведомленность социума о влиянии алгоритмов на жизнь людей, «предоставляя каждому возможность понять характер контента, с которым можно столкнуться в Интернете».