Рекорд объясняется тем, что с апреля по июнь была расширена роль искусственного интеллекта в модерации на платформе. Обычно в отслеживании неправомерного контента на YouTube задействованы одновременно сотрудники компании и ИИ. Однако с переводом команды на удаленную работу во время пандемии видеосервис был вынужден больше полагаться на технологии машинного обучения.
Таким образом, порядка 10,9 млн из 11,4 млн роликов были удалены с YouTube искусственным интеллектом. Более трети видео ИИ (33,5%) заблокировал как неприемлемый для детей контент, а 28,3% отметил как спам, введение в заблуждение или мошенничество. По этой же причине были забанены 92% из 2 млн каналов.
Технология также сыграла большую роль в модерации комментариев пользователей: из 2,1 млн заблокированных комментариев 99,2% обнаружил именно ИИ.
Тем не менее в YouTube признали, что искусственный интеллект не всегда работал точно и иногда удалял контент, который не нарушал политику платформы. Компания заявляет, что предприняла шаги, чтобы уменьшить это нарушение.
Социальной сети Facebook также пришлось во многом довериться ИИ в вопросе модерации контента во время самоизоляции. Технология позволила принять меры в отношении 22,5 млн публикаций, однако в основном это касалось постов о COVID-19 — контент, связанный с насилием и суицидом, отсеивался меньше, чем обычно.
