Вражду и ненависть в соцсетях будет искать нейросеть
Социальная сеть «ВКонтакте» объявила о новых возможностях нейросети, которая помогает в поиске «риторики вражды и ненависти». Как сообщает пресс-служба соцсети, в обучении новой нейросети помогла запущенная ранее нейросеть для борьбы с оскорбительными комментариями и анализ жалоб пользователей.
«Новая технология призвана оградить пользователей от разжигающего ненависть контента; обезопасить рекламодателей и партнёров от размещения объявлений в сообществах, где проявляется нетерпимость; ускорить автоматическую блокировку запрещённых материалов и повысить эффективность модерации», — сообщает «ВКонтакте».
Как отмечают, при определении языка вражды оценивается контекст высказывания и его содержание. В частности, если будут обнаружены неприязнь, основанная на каких-либо особенностях или различиях, оскорбительное поведение, презрение к чужим ценностям и взглядам и выражение собственного превосходства, которое сопровождается необоснованным и несправедливым отношением к конкретному человеку или группе людей, то нейросеть и модераторы сочтут такой контент языком вражды.
Напомним, ранее стало известно, что российская социальная сеть «ВКонтакте» начала тестировать технологию по распознаванию голосовых сообщений, которая позволит переводить голосовые сообщения в текст. При использовании этой технологии пользователь сможет, нажав на кнопку, прочитать расшифрованное голосовое сообщение. В будущем эта технология может стать основой для нового инструмента — поиска по сообщениям с учетом голосовых отправлений.