YouTube задается вопросом об ИИ при модерации контента

Модерация контента является неотъемлемой частью социальной сети. В последние месяцы призывы к более качественному контенту побудили технологические компании стремиться к реконструкции своих механизмов.

С самого начала пандемии Youtube начал полагаться на помощь искусственного интеллекта. Это временная альтернатива, пока сотрудники не могут работать в офисе.

Хотя большинство технических энтузиастов думают, что модераторы могут приносить свою работу домой, это невозможно. Работа носит деликатный характер, поэтому требуется строго контролируемая корпоративная среда.

Точно так же правильная техническая инфраструктура необходима для эффективного выполнения задач.

После ситуации в марте гигантское приложение для обмена видео предупредило общественность о том, что для модерации контента они прибегнут к искусственному интеллекту.

Вместо людей машины, созданные по современным технологиям, будут отвечать за фильтрацию контента, который должен или не должен быть на платформе. При использовании этого метода будет сделано несколько непреднамеренных ошибок.

Тем не менее, последней линией защиты по-прежнему будут люди. Сотрудники подтвердят, следует ли продолжить публикацию контента или удалить его.

Удаляются только те загрузки, которые, помимо прочего, нарушают принципы сообщества платформы.

Однако представители технологической фирмы подтвердили, что создатели контента должны ожидать, что машины случайно удалят некоторые видео, не нарушающие правила.

Если это произойдет, создатель может подать апелляцию на пересмотр. Однако этот процесс может занять больше времени, чем обычно, из-за сокращения числа операторов, занимающихся этим вопросом.

Сегодня в технологических новостях было сказано, что Youtube подтвердил в своем отчете о соблюдении принципов сообщества за второй квартал, что они удалили значительное количество видеороликов, которые не нарушали стандарты сообщества.

Его представители подтвердили свое предыдущее заявление о том, что сильная зависимость от машинного обучения привела к нескольким нежелательным ошибкам.

Выходы за второй квартал

Youtube заявил, что количество видео из их интерфейса за квартал, в два раза больше, чем в первом квартале.

За период с апреля по июнь 2020 года они сняли более 11,4 млн видео, по сравнению с аналогичным периодом прошлого года, когда их число составило всего 9 млн.

Аналогичным образом, количество восстановленных видео также удвоилось по сравнению с предыдущим кварталом.

На данный момент количество обращений, составляющее 3%, значительно ниже, чем фактическое удаление. Следовательно, количество восстановленных видео по запросу выросло с 25% до 50%.

В ответ на обеспокоенность Youtube заявили, что прибегли к «чрезмерному принуждению» при исполнении своих обязанностей.

В 2017 году платформа объявила о своем плане нанять более 10 000 модераторов контента для отсеивания видео с насилием, нацеленных на молодых пользователей.

Платформа признала ключевую роль, которую играют люди. Они принимают гораздо более контекстуальные решения по модерации контента, чего не хватает искусственному интеллекту.

Теперь, когда все больше людей проводят больше времени за своими портативными устройствами, правильный баланс между человеческим контролем и вмешательством машин является обязательным для поддержания роста Youtube.

Благодаря повсеместному использованию технологическое приложение стало популярным во всем мире. Его услуги охватывают диапазон от образовательных и развлекательных услуг до создания контента.

Сегодня существует постоянное давление на создание качественного контента независимо от обстоятельств.

Таким образом, Youtube находится в состоянии перетягивания каната: следует ли продолжать очень полагаться на искусственный интеллект, который зачастую имеет недочеты, или стоит прибегнуть к сокращению своей схемы чрезмерного принуждения и снижению доверия к платформе в долгосрочной перспективе.