Точный инструмент для создания водяных знаков ChatGPT может существовать, но OpenAI не выпустит его
Остерегайтесь плагиаторов ChatGPT , поскольку OpenAI разработала инструмент, способный обнаруживать выходные данные GPT-4 с точностью 99,99%. Однако компания потратила больше года на размышления о том, стоит ли выпускать его для широкой публики.
Сообщается, что компания применяет «обдуманный подход» из-за «связанных с этим сложностей и его вероятного влияния на более широкую экосистему за пределами OpenAI», согласно TechCrunch . «Метод создания текстовых водяных знаков, который мы разрабатываем, технически многообещающий, но имеет важные риски, которые мы взвешиваем, пока исследуем альтернативы, включая уязвимость к обходу со стороны злоумышленников и потенциал непропорционально сильного воздействия на группы, такие как не говорящие по-английски», — представитель OpenAI. сказал.
Система текстовых водяных знаков работает путем включения определенного шаблона в письменный вывод модели, который обнаруживается инструментом OpenAI, но невидим для конечного пользователя. Хотя этот инструмент может надежно обнаружить текст, созданный его собственным движком GPT-4, он не может обнаружить выходные данные других моделей, таких как Gemini или Claude. Более того, сам водяной знак можно удалить, запустив вывод текста через Google Translate, переведя его на другой язык, а затем обратно.
Это не первая попытка OpenAI создать инструмент для распознавания текста. В прошлом году компания незаметно закрыла аналогичный детектор текста, который находился в разработке, из-за ничтожной скорости обнаружения этого инструмента и склонности к ложным срабатываниям. Этот детектор, выпущенный в январе 2023 года, требовал от пользователя вручную ввести образец текста длиной не менее 1000 символов, прежде чем он сможет сделать определение. Ему удалось правильно классифицировать контент, созданный искусственным интеллектом, только с точностью 26% и пометить контент, созданный человеком, как созданный искусственным интеллектом в 9% случаев. Это также привело к тому, что один профессор A&M из Техаса ошибочно завалил весь класс из-за того, что он якобы использовал ChatGPT на своих последних заданиях.
Сообщается, что OpenAI также не решается выпустить инструмент, опасаясь негативной реакции пользователей. По данным Wall Street Journal, 69% пользователей ChatGPT считают, что такой инструмент будет ненадежным и, скорее всего, приведет к ложным обвинениям в мошенничестве. Еще 30% сообщили, что охотно откажутся от чат-бота в пользу другой модели, если OpenAI действительно внедрит эту функцию. Компания также опасается, что разработчики смогут перепроектировать водяной знак и создать инструменты для его отрицания.
В то время как OpenAI обсуждает преимущества выпуска своей системы водяных знаков, другие стартапы в области ИИ спешат выпустить собственные детекторы текста, в том числе GPTZero, ZeroGPT, Scribbr и Writer AI Content Detector. Однако, учитывая общую неточность, человеческий глаз остается нашим лучшим методом обнаружения контента, созданного ИИ, что не обнадеживает.