Instagram* начал предупреждать об оскорблениях
* Социальная сеть признана экстремистской и запрещена на территории Российской Федерации.
В Instagram (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) появилась новая функция, активирующаяся при публикации фотографий или видео. Программа анализирует сопровождающую контент подпись и оценивает, может ли она оказаться оскорбительной.
Во время публикации искусственный интеллект сравнивает сделанную подпись с теми, на которые уже поступали жалобы из-за их содержания. Если у программы возникают подозрения, она сообщает об этом пользователю и предлагает изменить подпись. Советом искусственного интеллекта можно пренебречь и все равно опубликовать фотографию или видео с первоначальной подписью — никаких санкций в данном случае не предусматривается.
Новая функция основана на аналогичном инструменте на базе ИИ, который Instagram (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) представил еще в июле 2019 года. Разрабатывался он для оценки содержания комментариев к постам.
Это лишь немногие из предпринимаемых компанией мер по борьбе с онлайн-издевательствами. В прошлом году, например, в Instagram (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) появилась система отслеживания оскорблений и издевательств на фотографиях.
Instagram (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) полагается на то, что пользователи сами поймут, когда они выходят за рамки приличия и будут перед публикацией редактировать свои подписи и комментарии. Это вряд ли остановит злостных хулиганов, но у подобной системы мягкого контроля есть потенциал.
В Instagram (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) заявили, что новая функция в настоящее время доступна только в нескольких странах, но в ближайшие месяцы появится во всем мире.