TikTok хочет настроить свой алгоритм, чтобы избежать проблемного контента

Сегодня TikTok объявил о развертывании дополнительных функций настройки в своем фиде «Для вас», бесконечно прокручиваемой странице видео, которая сделала приложение настолько популярным. Компания признала в сегодняшнем выпуске сообщения, что ее алгоритм прогнозирования может усилить негативный опыт, повторяя видеоролики на эмоционально нестабильные темы, такие как разрывы.

TikTok стал популярным благодаря своему алгоритму. Приложение, граничащее с предвидением, могло рекомендовать видео пользователей, которые настолько соответствовали их вкусам, что даже утверждалось, что оно предсказывает сексуальность людей, которые сами этого не осознавали . В то же время тенденция алгоритма давать вам больше того, что вас интересует, может привести к негативным результатам, если то, что вас интересует, оказывает негативное влияние на вашу жизнь.

Возвращаясь к примеру расставания, TikTok отмечает, что кто-то, кто недавно расстался с партнером, может в конечном итоге попасть в поток нескольких видеороликов о расставании в своей ленте, усиливая негативные эмоции. Это проблема, с которой боролись другие платформы социальных сетей, и еще ни одна из них не решила эффективно. Подход TikTok не ограничивается массовым изгнанием такого контента с сайта. Он будет следить за изменением частоты показа этих видео в ленте, чтобы они не «кластеризовались» и чередовались с несвязанными видео.

«Мы также работаем над тем, чтобы определить, может ли наша система непреднамеренно рекомендовать только очень ограниченные типы контента, которые, хотя и не нарушают наши правила, могут иметь негативный эффект, если это большая часть того, что кто-то смотрит, например, контент об одиночестве или потеря веса. Наша цель состоит в том, чтобы в ленте For You каждого человека был представлен широкий спектр контента, создателей и тем », – заявила команда TikTok, консультируясь с экспертами в самых разных областях – от психологии до этики ИИ.

Компания также теперь расширит свои функции курирования (в настоящее время это в первую очередь неинтересная кнопка) с помощью нового инструмента, который «помогает людям настраивать свой корм – будь то вегетарианец, который хочет видеть меньше мясных рецептов, или кто-то, кто работает над самооценкой. кто предпочел бы видеть меньше уроков красоты ».

Пока не ясно, когда этот новый инструмент станет доступным, но мы сообщим вам, когда узнаем больше.