OpenAI расправляется с мошенниками ChatGPT
OpenAI ясно дала понять, что ее флагманский сервис искусственного интеллекта ChatGPT не предназначен для злонамеренного использования.
Компания опубликовала отчет, в котором подробно рассказывается о том, как злоумышленники используют ее платформу по мере того, как она становится все более популярной. OpenAI сообщила, что удалила десятки учетных записей по подозрению в использовании ChatGPT несанкционированными способами, например, для «отладки кода для создания контента для публикации на различных платформах распространения».
Компания также недавно объявила о достижении отметки в 400 миллионов активных пользователей в неделю . Компания сообщила, что менее чем за три месяца число ее пользователей выросло более чем на 100 миллионов, поскольку все больше предприятий и разработчиков используют ее инструменты. Однако ChatGPT также является бесплатным сервисом, доступ к которому можно получить по всему миру. Поскольку моральные и этические аспекты ее функций уже давно находятся под вопросом, OpenAI пришлось смириться с тем фактом, что существуют организации, которые имеют скрытые мотивы в отношении платформы.
«Политика OpenAI строго запрещает использование результатов наших инструментов для мошенничества или мошенничества. В ходе нашего расследования мошеннических схем трудоустройства мы выявили и заблокировали десятки аккаунтов», — говорится в отчете компании.
В своем отчете OpenAI обсудила необходимость противодействия гнусным действиям, происходящим в ChatGPT. Компания рассказала о нескольких тематических исследованиях, в которых она обнаружила и приняла меры, заблокировав учетные записи, которые, как выяснилось, использовали этот инструмент со злыми намерениями.
В одном случае OpenAI подробно описал аккаунт, в котором публиковались пренебрежительные новостные статьи о США, причем источник новостей публиковался в Латинской Америке под видом подписи китайского издания.
В другом случае, локализованном в Северной Корее, выяснилось, что компания создавала резюме и профили вакансий для вымышленных соискателей. По данным OpenAI, аккаунт мог использоваться для подачи заявок на работу в западные компании.
Еще одно исследование выявило учетные записи, предположительно созданные в Камбодже, которые использовали ChatGPT для перевода и создания комментариев в сетях «романтических мошенников», которые проникают в несколько платформ социальных сетей, включая X, Facebook и Instagram.
OpenAI подтвердила, что поделилась своими выводами со своими коллегами из отрасли, такими как Meta, на которых могут непреднамеренно повлиять действия, происходящие в ChatGPT.