Tinder хочет, чтобы пользователи пытались догадаться о вредоносных сообщениях

Tinder надеется, что выпустит новую версию «Are You Sure?» Предупреждение (AYS?) Будет удерживать пользователей от отправки сообщений, которые могут быть оскорбительными. Если ИИ Tinder обнаруживает вредоносный язык в сообщении, он спрашивает пользователей, действительно ли они хотят отправить.

Вы уверены, что хотите отправить?

Tinder анонсировал свой новый AYS? уведомление в сообщении в Tinder Newsroom . Во время тестирования эта функция помогла снизить количество оскорбительных сообщений более чем на 10 процентов.

Искусственный интеллект Tinder, выявляющий ненависть, был построен с использованием языка, о котором чаще всего сообщают на платформе. Каждый раз, когда пользователь собирается отправить потенциально опасное сообщение, в уведомлении будет спрашиваться: «Вы уверены, что хотите отправить? Подумайте дважды – ваш собеседник может счесть этот язык неуважительным».

В ходе раннего использования Tinder отмечает, что пользователи, которые действительно видели AYS? уведомление о неприемлемых сообщениях было меньше. Трейси Бриден, глава отдела безопасности и социальной защиты Match Group (материнской компании Tinder), прокомментировала многообещающее будущее AYS? уведомление, указав:

Слова так же важны, как и действия, и сегодня мы еще более решительно заявляем, что домогательствам нет места в Tinder. Первые результаты этих функций показывают нам, что правильное вмешательство может быть действительно значимым для изменения поведения и построения сообщества, в котором каждый чувствует, что может быть самим собой.

AYS? message – это еще один инструмент, который Tinder использует для предотвращения преследований и издевательств на платформе знакомств. В Tinder уже отображается сообщение: «Это вас беспокоит?» пользователям, получающим потенциально опасные сообщения. Это уведомление также было успешным – количество сообщений о оскорбительных сообщениях увеличилось на 46 процентов с момента его внедрения.

Если Tinder's AYS? и "Вас это беспокоит?" предупреждения звучат знакомо, это потому, что другие социальные платформы уже начали реализовывать аналогичные функции. Совсем недавно Twitter представил функцию, которая побуждает вас переосмыслить грубые твиты . YouTube даже запустил свою собственную версию этой функции и напоминает вам уважительно комментировать .

Действительно ли работает просьба к пользователям быть хорошими?

Похоже, что социальные платформы добились положительных результатов, предупреждая пользователей о потенциально оскорбительной лексике. Однако уведомление на самом деле не мешает пользователю говорить то, что он хочет, – это просто предложение быть любезным.

Возможно, это не удержит самых больших интернет-хулиганов от рассылки грубых комментариев, но все же может оказать влияние. Даже если это просто остановит попадание небольшого количества грубых комментариев в почтовые ящики пользователей, это определенно лучше, чем ничего.