У ChatGPT появился новый способ обнаружения собственного плагиата

Дядя Влад

Во вторник OpenAI анонсировала новый инструмент под названием AI Text Classifier , который предназначен для различения текста, сгенерированного ИИ, и слов, написанных человеком.

Последний инструмент бренда появился после критики его текстового генератора ChatGPT . Хотя он был популярен с момента его выпуска в ноябре 2022 года, чат-бот был вовлечен в проблемы с плагиатом, а инструмент уже запрещен в школах. Тем не менее, также появились отчеты о том, что студенты используют ChatGPT для создания эссе для домашних заданий.

Текст, определенный ИИ, написан на классификаторе текста ИИ.

Открытие классификатора текста AI — это попытка OpenAI сохранить честность своего бренда. OpenAI сообщила в своем блоге, что хотела бы получить отзывы от родителей и учителей о качестве своего инструмента обнаружения плагиата. Тем не менее, он отмечает, что в настоящее время классификатор имеет некоторые ограничения, в том числе плохую работу с текстами короче 1000 слов, плохую работу с языками, отличными от английского, легкость обмана при редактировании текста AI и ложные срабатывания, когда инструмент, среди прочего, неправильно идентифицирует написанный человеком текст как ИИ.

OpenAI добавил, что классификатор примерно в 26% случаев правильно идентифицирует текст ИИ как вероятно написанный ИИ (истинные срабатывания) и в 9% случаев неправильно идентифицирует человеческий текст как написанный ИИ (ложные срабатывания).

Текст, определенный человеком, написанный на AI Text Classifier.

При тестировании AI Text Classifier я сравнил подсказку ChatGPT «написать эссе на 1000 слов о количестве звезд на небе» с текстом из моей статьи « 6 самых больших проблем с ChatGPT прямо сейчас ».

Войти в Classifier легко, если у вас уже есть учетная запись OpenAI и серверы не перегружены. Вы просто вставляете свой текст в текстовое поле и выбираете «Отправить». Результат отобразится ниже. Инструмент точно определил текст из моей статьи как написанный человеком, а текст, написанный ChatGPT, как написанный ИИ.

Уже существует ряд других инструментов для обнаружения плагиата с разной степенью точности. Детектор вывода GPT-2 — еще один инструмент, разработанный OpenAI. Другие включают Writer AI , Content at Scale , GPTZero и Giant Language Model Test Room (GLTR). Мы протестировали эти инструменты и также обнаружили разную степень точности между идентификацией текста ChatGPT и человеческого текста.

Пока неясно, как будет реализован AI Text Classifier в будущем, но ChatGPT уже зарекомендовал себя в нескольких отраслях, от журналистики до бизнеса и технологий. Со всеми необходимыми инструментами это, вероятно, просто становится вопросом этики.