TikTok увольняет сотни модераторов искусственного интеллекта, а Instagram винит людей в своих проблемах
ByteDance, компания, стоящая за видео-платформой для социальных сетей TikTok , как сообщается, уволила сотни модераторов контента по всему миру в связи с переходом на схему модерации, ориентированную на искусственный интеллект.
По данным Reuters , большая часть из примерно 500 потерянных рабочих мест находилась в Малайзии. По данным компании, в ByteDance работает более 110 000 человек. «Мы вносим эти изменения в рамках наших постоянных усилий по дальнейшему укреплению нашей глобальной операционной модели модерации контента», — заявил представитель TikTok в своем заявлении.
В настоящее время компания использует модераторов контента как людей, так и искусственного интеллекта, при этом машины выполняют примерно 80% работы. ByteDance планирует инвестировать около 2 миллиардов долларов в свои усилия по обеспечению доверия и безопасности в 2024 году. Увольнения происходят в связи с усилением контроля со стороны регулирующих органов в стране, где в этом году наблюдается всплеск вредных публикаций в социальных сетях и дезинформации.
В США глава Instagram Адам Моссери объявил в пятницу, что недавняя волна блокировок аккаунтов пользователей Instagram и Threads , понижения рейтинга постов и маркировки их как спама была результатом ошибок, допущенных модераторами-людьми, а не системой модерации AI компании. Он утверждает, что сотрудники «звонили, не зная контекста того, как проходили разговоры, что было упущением».
Однако люди не были полностью виноваты, пояснил Моссери. «Один из инструментов, которые мы создали, сломался, — признал он, — поэтому он не показывал им достаточный контекст».
За последние несколько дней пользователи обоих сайтов обнаружили, что их учетные записи заблокированы и впоследствии отключены за нарушение возрастных ограничений платформ, которые не позволяют людям младше 13 лет иметь свои собственные учетные записи. По данным The Verge , эти учетные записи оставались заблокированными даже после того, как пользователи загрузили подтверждение своего возраста.
PR-деятельность компании расходилась с позицией Моссери, который сообщил TechCrunch , что «не все проблемы, с которыми столкнулись пользователи Instagram, были связаны с модераторами-людьми». По данным PR, вопрос проверки возраста все еще расследуется.