ИИ, обнаруживающий язык вражды в Facebook, окупается
Facebook повышает эффективность распознавания и удаления контента, разжигающего ненависть. Отчет платформы о соблюдении стандартов сообщества показывает значительное сокращение распространенности языка вражды в последнем квартале 2020 года.
Разжигание ненависти в Facebook уменьшилось
В отчете Facebook о соблюдении стандартов сообщества за период с октября по декабрь 2020 года платформа раскрыла значительные улучшения в том, как Facebook справляется с разжиганием ненависти. Гай Розен, вице-президент Facebook по вопросам честности, сделал сообщение в блоге About Facebook, чтобы подчеркнуть его успех.
На каждые 10 000 просмотров контента Facebook только от семи до восьми были просмотры контента, разжигающего ненависть. Facebook также принял меры в отношении 6,3 миллиона сообщений о издевательствах и домогательствах, по сравнению с 2,5 миллионами сообщений в третьем квартале.
Платформа также смогла уловить 6,4 миллиона элементов организованного контента, разжигающего ненависть, что является значительным улучшением по сравнению с 4 миллионами элементов контента, которые Facebook удалил в предыдущем квартале.
Отчет о соблюдении стандартов сообщества показал аналогичные улучшения в Instagram. В Instagram было удалено пять миллионов сообщений о домогательствах и издевательствах, а также 6,6 миллиона материалов, содержащих язык ненависти, и 308 000 материалов организованного содержания ненависти. Все эти цифры превосходят статистику третьего квартала.
Проактивная ставка Facebook, также известная как количество контента, которое Facebook удаляет до того, как пользователь сообщает об этом, также улучшилась. За издевательства и преследования проактивная ставка платформы выросла с 26 до 49 процентов в Facebook и с 55 до 80 процентов в Instagram.
ИИ Facebook, выявляющий ненависть , сыграл важную роль в усилении реакции на язык вражды. Розен отмечает, что платформа улучшила свой ИИ, «где важны нюансы и контекст, такие как разжигание ненависти, издевательства и преследования», что в конечном итоге помогло уменьшить количество разжигающего ненависть контента в Facebook.
Майк Шрёпфер, технический директор Facebook, сделал отдельный пост в блоге About Facebook, чтобы отметить достижения постоянно совершенствующегося искусственного интеллекта Facebook. Несмотря на свои недавние достижения, Шрепфер надеется, что искусственный интеллект Facebook сможет стать лучше «при просмотре контента в контексте разных языков, культур и географических регионов».
ИИ в Facebook становится умнее
Facebook стал больше полагаться на свою систему искусственного интеллекта, чтобы помочь оценить разжигающий ненависть контент из-за продолжающейся пандемии COVID-19. Розен отметил, что команда Facebook, вероятно, все еще будет затронута пандемией, «пока вакцина не станет широко доступной».
Хотя модераторы Facebook однажды вернутся к работе в обычном режиме, похоже, что ИИ платформы никуда не денется. Facebook только сделал свой ИИ умнее и эффективнее, и не похоже, что Facebook планирует прекратить прогресс в ближайшее время.