Новый инструмент модерации контента Discord автоматически блокирует слова и фразы.

Стремясь помочь своим модераторам, Discord разработал новый инструмент автоматической модерации контента.

Модерация контента может быть утомительной, вызывающей выгорание задачей, требующей от модераторов сообщества просмотра расстраивающего контента, а затем принятия решения о том, как лучше всего поступить с таким контентом и пользователем, который его опубликовал. Новый инструмент Discord под названием AutoMod призван помочь в решении этой задачи.

AutoMod был объявлен в блоге и, как ожидается, будет «автоматически обнаруживать, блокировать и предупреждать модераторов о сообщениях, содержащих вредные слова или фразы, до их публикации».

Модераторы сообщества могут использовать AutoMod для управления оскорбительным содержимым в своих сообществах, настраивая фильтры по ключевым словам (модераторы могут настроить до трех настраиваемых фильтров по ключевым словам и использовать фильтр «Часто помечаемые слова»), чтобы автоматически отфильтровывать и помечать содержимое, содержащее оскорбительные слова. Согласно отдельному сообщению в блоге об AutoMod , модераторы могут создавать правила, которые включают в себя: список слов для AutoMod для сканирования сообщений, назначенное действие автоматического ответа, которое будет развернуто после обнаружения одного из этих слов, и возможность исключать определенных людей. из этого правила.

Правила AutoMod, подобные изображенному выше, позволяют модераторам выбирать автоматический ответ на сообщение, которое было помечено как содержащее одно из слов, перечисленных в списке слов. Ответы включают в себя блокировку публикации сообщения, отключение пользователя-нарушителя по тайм-ауту (что не позволяет ему присоединяться к голосовым каналам или отправлять сообщения), или AutoMod может отправлять модераторам предупреждение об оскорбительном сообщении на указанный канал.

Discord значительно вырос с момента своего появления в качестве чата и голосового приложения для геймеров. И этот рост привел к разросшимся, шумным онлайн-сообществам, которые могут конкурировать с любой другой платформой социальных сетей. Но, как и его конкуренты в социальных сетях, Discord также приходится бороться с оскорбительным контентом и полагается на модераторов контента, которые помогают решать эти проблемы в своих сообществах Discord. Discord также является одной из рекомендуемых нами альтернатив Twitter , и эта новая функция, которая, похоже, усилит модерацию и безопасность контента, звучит как еще одна причина, по которой Discord принадлежит к этому списку.

Новую функцию AutoMod можно найти на серверах сообщества Discord в настройках сервера, и в настоящее время она доступна на MacOS, Windows, Linux, Android, iOS и в веб-приложении Discord.