Как Facebook планирует удалять вредный контент

Гигант социальных медиа Facebook объявил о создании  новой технологии искусственного интеллекта, которая способна быстро выявлять вредный контент, чтобы сделать Facebook более безопасным.  Новая модель ИИ использует Few-shot learning для сокращения времени обнаружения новых видов вредоносного контента с месяцев до нескольких недель.

Стоит отметить, что Few-shot learning имеет сходство с Zero-shot learning. Их цель — научить машину решать невидимую задачу, научившись обобщать инструкции по решению задачи.

Новая ИИ-система Facebook способна противодействовать новым видам вредоносного контента. В большинстве случаев сбор и маркировка тысяч примеров, необходимых для обучения каждой отдельной системы ИИ, занимает несколько месяцев. Поэтому обучить каждую отдельную систему ИИ распознавать новый тип контента — задача не из легких.

Новая технология Facebook работает со ста языками. Она работает как с изображениями, так и с текстом. Несмотря на то, что это всего лишь дополнение к существующим методам обнаружения вредного контента, оно является не маленьких дополнением, а крупным обновлением. Преимуществами новой модели искусственного интеллекта Facebook являются масштаб и скорость.

Facebook и ИИ

Медиа-гигант сообщил, что новая система уже внедрена и работает в социальных сетях компании. Компания уже протестировала систему искусственного интеллекта. Она использовала ее для выявления дезинформации о вакцинации Covid-19. Facebook также использовал ее для выявления других видов нарушений.

Facebook утверждает, что новая система искусственного интеллекта уже помогла снизить количество ненавистнических высказываний, публикуемых на платформе. Эта система обладает удивительной способностью правильно маркировать написанный текст, который содержит ненавистнические высказывания. Более того, она на 55% превосходит другие технологии Few-shot learning  и в среднем улучшает результаты на 12%.