Один из тысячи постов на Facebook содержит хейтспич

Социальные сети уже какое-то время принимают меры по улучшению своих экосистем. Facebook тоже не отстает. Американский конгломерат социальных сетей недавно предпринял шаги, чтобы начать судебное преследование за контент, отрицающий существование Холокоста, от которого пострадали евреи во время Второй мировой войны. В своем ежеквартальном отчете компания поделилась новой информацией о распространенности языка вражды – хейтспич. Они назвали точные данные о количестве контента, разжигающего ненависть, который видят пользователи.

По оценкам Facebook, распространенность риторики ненависти с июля 2020 года по сентябрь 2020 составляла от 0,10% до 0,11%. Другими словами, из 10 000 постов на Facebook от 10 до 11 содержали хейтспич.

Facebook считает ненавистническими высказываниями всё, что напрямую атакует людей в отношении таких моментов, как раса, этническая принадлежность, национальное происхождение, религиозные предпочтения, сексуальная ориентация, пол, гендерный вопрос, инвалидность или болезнь.

Компания заявила, что в последние годы она расширила свою политику, чтобы обеспечить большую защиту людей от различных видов надругательств.

Они приняли меры по борьбе с белым национализмом и белым сепаратизмом. Компания Facebook обновила свою политику, чтобы учесть определенные типы подстрекательства к скрытой ненависти. Это относится к контенту, который показывает черное лицо или стереотипы о евреях, контролирующих мир.

Чтобы найти и просмотреть контент, разжигающий ненависть, Facebook, помимо человеческого труда, имеет системы искусственного интеллекта, которые помогают обнаруживать и устранять разжигающие ненависть высказывания в больших масштабах. Платформа утверждает, что благодаря использованию этого инструмента они заблаговременно обнаружили 95% контента, разжигающего ненависть. Такого рода посты были удалены с платформы в период с июля по сентябрь, и не было необходимости сообщать об этом пользователям.

95% сообщений на Facebook, содержащих хейтспич, были удалены заблаговременно

Гигант соцсетей Facebook сообщил, что за последние три месяца им удалось уничтожить до публикации около 95% контента, содержащего риторику ненависти на Facebook и Instagram.

Судя по предыдущим отчетам компании, это резкий скачок. В конце 2017 года показатель составил лишь около 24%.

Кроме того, в последнем квартале 2019 года было удалено примерно 645 000 единиц контента. Между тем, в третьем квартале 2020 года они избавились от 6,5 млн таких постов.

Организованные группы, разжигающие ненависть, попадают в отдельную категорию модерации. Здесь отмечен гораздо более скромный рост с 139 900 до 224 700.

В мае Facebook объявил конкурс на систему, которая сможет лучше всех определять «ненавистные мемы».