Бот или нет? Это расширение браузера будет идентифицировать текст, написанный А.И.
Выяснить, правда ли то, что вы читаете в Интернете, может быть непросто. Благодаря новому веб-плагину теперь гораздо проще определить, были ли написаны истории человеком или ИИ. GPTrue или False — это расширение браузера для Chrome и Firefox, которое позволяет пользователям выбирать текст на веб-сайте (50 слов и более) и оценивать его, чтобы определить вероятность того, что он был написан с помощью AI-модели OpenAI GPT-2, а не человека.
GPT-2 — это алгоритм генерации текста, который позволяет пользователям начинать его с начала фрагмента текста, такого как статья в газете, а затем придумывает все остальное в ужасающе убедительной манере. В то время как некоторые использовали его в творческих целях, таких как создание постоянно меняющихся текстовых приключенческих игр , другие по праву обеспокоены тем, что это может означать для распространения поддельных новостей .
GPTrue или False пропускает выбранный текст с помощью модели OpenAI GPT-2 Detector , а затем определяет вероятность того, что текст был создан человеком, а не создан машиной.
«Я бы сказал, что проблема довольно актуальна в современном мире», — сказал Джулио Стараче, создатель GPTrue или False, в интервью Digital Trends. «По мере того, как генерация синтетических данных становится все более изощренной, мы становимся все более и более уязвимыми для того или иного влияния. Ложные новости, генерируемые машинами, являются одним из примеров, но рассмотрим также поддельные обзоры. В мире, где рецензирование было с открытым исходным кодом, этой системой можно злоупотреблять, а потребители произвольно склоняются к конкретному бизнесу ».
Старач сказал, что вдохновился на создание плагина после просмотра твита от директора AI Теслы, Андрея Карпати. 6 ноября Карпати написала в Твиттере запрос на расширение Chrome, чтобы помочь найти текст GPT-2 в Интернете. «Я видел твит и подумал:« Эй, я, наверное, могу », — сказал Старейс. Расширение можно скачать здесь .
Последнее слово предостережения: хотя этот детектор впечатляюще точен, когда дело доходит до обнаружения писанины ИИ, вы все равно захотите использовать здравый смысл. Так же, как спам-детектор, обнаруживающий электронные письма, может быть несколько рукописных фрагментов, которые проскальзывают через трещины — или наоборот.
«Может случиться так, что текст, сгенерированный GPT-2, и текст, созданный человеком, иногда имеют перекрывающиеся характеристики, что заставляет детектор случайно думать, что созданная человеком часть текста на самом деле генерируется машиной», — сказал Старач. «В моем Твиттере есть несколько забавных примеров, когда люди показывают, что детектор ошибочно классифицирует речь Трампа как компьютерную , а также на выдержке из Джеймса Джойса . Так что либо Трамп, либо Джеймс Джойс — роботы, либо детектор несовершенен ».