Искусственный интеллект Facebook* назвал чернокожих «приматами»

* Социальная сеть признана экстремистской и запрещена на территории Российской Федерации.

ПО американской соцсети, которое анализирует происходящее на видео и выстраивает на его основе ленту рекомендаций, промаркировало чернокожих людей как «приматов». После этого ИИ пришлось отключить.

Алгоритмы искусственного интеллекта оказываются далеко не идеальными, когда дело доходит до распознавания лиц. ИИ Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации), например, не смог отличить чернокожих людей от приматов

Программное обеспечение для распознавания лиц, которое Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) с недавних пор использует для рекомендации контента, получило волну критики от защитников гражданских прав, которые указывают на проблемы с точностью работы алгоритмов. Особенно это касается распознавания лиц людей, имеющих отличный от белого цвет кожи.

Пользователи Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации), которые в последние несколько дней смотрели видео британского таблоида с участием чернокожих мужчин, получали затем автоматически сгенерированное приглашение с вопросом, хотели бы они «продолжать смотреть видео о приматах».

Видео, о котором идет речь, было опубликовано в июне 2020 года газетой Daily Mail. Оно было озаглавлено «Белый человек вызывает полицейских при драке с чернокожими на стоянке для яхт». Хотя люди относятся к числу многих видов семейства приматов, видео не имело ничего общего с обезьянами, шимпанзе или гориллами. Скриншотом рекомендации поделилась в Twitter бывший менеджер по дизайну контента Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) Дарси Гроувс.

После того, как эта новость распространилась по сети, официальный представитель Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) назвал это «явно неприемлемой ошибкой» и заявил, что программное обеспечение для рекомендаций было отключено. Теперь аналитики внутри соцсети будут расследовать это происшествие и дорабатывать свое ПО.