Будьте бдительны! Детекторы GPT также могут подделывать

Развитие генеративного искусственного интеллекта похоже на сбежавшую дикую лошадь: если вы будете просто бегать, то рано или поздно бросите людей, которые плохо разбираются в верховой езде.

30 ноября 2022 года ChatGPT, диалоговый чат-робот с искусственным интеллектом, был официально запущен и быстро стал популярным в социальных сетях.Всего за 5 дней количество зарегистрированных пользователей превысило 1 миллион.За два месяца ежемесячно активные пользователи ChatGPT превысило 100 млн. Станьте самым быстрорастущим пользователем-потребителем в истории.

Очевидно, что не все готовы к натиску генеративного искусственного интеллекта.

В начале января этого года Департамент образования Нью-Йорка объявил, что запрещает учащимся использовать ChatGPT на школьном оборудовании и в сети, чтобы предотвратить мошенничество учащихся. Sciences Po в Париже, Франция, также официально выпустила уведомление в конце января, запрещающее всем студентам и сотрудникам каждого кампуса использовать ChatGPT для выполнения учебных заданий, став первой школой в Европе, которая ввела «полный запрет» на ChatGPT.

Когда пришло время июля, в среде, где процветал генеративный искусственный интеллект и соперничали сотни школ мысли, некоторые иностранные педагоги начали следовать веяниям времени и активно использовать генеративный искусственный интеллект.

Руководители 24 исследовательских университетов Russell Group в Великобритании недавно совместно разработали и подписали руководство, направленное на то, чтобы четко указать студентам и сотрудникам, где использование генеративного искусственного интеллекта не подходит, поддержать их в принятии обоснованных решений и дать им возможность Принимайте правильные решения. Используйте эти инструменты и подтверждайте их использование, когда это необходимо.

Теперь, по их мнению, пока генеративный искусственный интеллект используется правильно, он будет приносить большую пользу образованию, но до этого, возможно, им следует опасаться некоторых «маленьких неприятностей».

В сфере образования применение ChatGPT для выполнения студенческих заданий не ново, и многие учителя также начали рассматривать обнаружение искусственного интеллекта как «ключевую контрмеру, чтобы остановить мошенничество 21 века».

Но исследования показали, что некоторые детекторы ИИ являются дискриминационными и вводят в заблуждение.

Недавно группа ученых во главе с Джеймсом Зоу, доцентом кафедры биомедицинских данных в Стэнфордском университете, оценила 91 эссе TOEFL (тест на знание английского языка для тех, для кого английский язык не является родным), написанное не носителями языка, с использованием семи популярных детекторов GPT. .

Исследование показало, что более половины эссе, написанных не носителями английского языка, были неправильно помечены как сгенерированные ИИ для всех 7 детекторов GPT, и даже один детектор неправильно пометил почти 98% эссе как сгенерированные ИИ.

Изучение эссе, написанных англоговорящими восьмиклассниками, показало, что тот же детектор ИИ пометил более 90% эссе как написанные человеком.

Отслеживая эту изначально предвзятую дискриминацию, исследователи обнаружили, что генеративный ИИ может генерировать текст с низкой сложностью после обширного предварительного обучения, а это означает, что, если люди пишут по знакомым шаблонам. Использование большого количества общих слов значительно увеличивает риск быть помеченным как сгенерированный ИИ. , а те, для кого английский язык не является родным, подвергаются большему риску именно потому, что они чаще используют более простые слова.

Влияние этой дискриминации заслуживает внимания. Исследователи также предупреждают, что «влияние детекторов GPT на писателей, не являющихся носителями языка, серьезно», добавляя, что «в образовании, возможно, наиболее важном рынке детекторов GPT, неместные риски обвинений в мошенничестве, которые могут нанести ущерб академическая карьера студента и психическое здоровье».

Поэтому, прежде чем думать о том, является ли генеративный искусственный интеллект «хорошим лекарством» или «ядом» для образования, может быть необходимо сначала решить эти «маленькие неприятности».

#Добро пожаловать в официальный публичный аккаунт Айфанер в WeChat: Айфанер (идентификатор WeChat: ifanr), в ближайшее время вам будет представлен более интересный контент.

Ай Фанер | Оригинальная ссылка · Просмотреть комментарии · Sina Weibo