OpenAI использует собственные модели для борьбы с вмешательством в выборы

OpenAI, разработчик популярного решения генеративного искусственного интеллекта ChatGPT , опубликовал отчет , в котором говорится, что в 2024 году он заблокировал более 20 операций и нечестных сетей по всему миру. Операции различались по целям, масштабам и направленности и использовались для создания вредоносного ПО и написания фейковых аккаунтов в СМИ, фейковых биографий и статей на веб-сайтах.

OpenAI подтверждает, что проанализировала деятельность, которую остановила, и предоставила ключевые выводы из своего анализа. «Субъекты угроз продолжают развиваться и экспериментировать с нашими моделями, но мы не видели доказательств того, что это привело бы к значимому прорыву в их способности создавать существенно новые вредоносные программы или создавать вирусную аудиторию», — говорится в отчете.

Это особенно важно, учитывая, что это год выборов в различных странах, включая США, Руанду, Индию и Европейский Союз. Например, в начале июля OpenAI заблокировала ряд аккаунтов, создававших комментарии о выборах в Руанде, опубликованные разными аккаунтами в X (ранее Twitter). Итак, приятно слышать, что OpenAI заявляет, что злоумышленникам не удалось добиться большого прогресса в кампаниях.

Еще одной победой OpenAI стало уничтожение базирующегося в Китае злоумышленника, известного как SweetSpectre, который пытался осуществить целенаправленный фишинг корпоративных и личных адресов сотрудников OpenAI. Далее в отчете говорится, что в августе Microsoft раскрыла ряд доменов, которые они приписали иранской тайной операции влияния, известной как «STORM-2035». «На основе их отчета мы расследовали, прервали и сообщили о связанном с ним наборе действий в ChatGPT».

OpenAI также сообщает, что посты в социальных сетях, созданные их моделями, не привлекли особого внимания, поскольку они получили мало или вообще не получили комментариев, лайков или репостов. OpenAI гарантирует, что они будут продолжать предугадывать, как субъекты угроз используют передовые модели для вредоносных целей, и планировать предпринять необходимые действия, чтобы остановить это.