ChatGPT «изобрел» уже существующую игру, а затем сплагиатил сам себя

ChatGPT может добавить в свое резюме еще одну работу: разработчик игр. С помощью всего нескольких простых подсказок от пользователя чат-бот с искусственным интеллектом изобрел собственную математическую логическую игру-головоломку, получившую название Sumplete , правила и все такое. Мало того, он сгенерировал работающий код, который с тех пор превратился в захватывающую бесплатную браузерную игру, которая уже набирает популярность в сети.

Есть только одна проблема: Sumplete не новая игра.

Пытаясь понять смысл этого впечатляющего подвига, я быстро обнаружил, что Sumplete почти идентична по крайней мере одной другой мобильной игре, которая была доступна в магазинах приложений в течение многих лет. Необычный случай подливает масла в огонь тем, кто беспокоится об этичности создания контента с помощью ИИ. Где грань, когда дело доходит до компьютерного плагиата? Как я вскоре обнаружил, даже ChatGPT стал жертвой собственной кражи.

Изобретая игру

Проект появился в сети 3 марта, когда пользователь ChatGPT Дэниел Тейт опубликовал в сети игровую версию игры вместе с сообщением в блоге, в котором подробно описывалось, как это произошло. По словам Тейта, Sumplete родился из нескольких быстрых сообщений в ChatGPT. На скриншотах своего журнала чата Тейт запрашивает у бота головоломки, похожие на судоку . Получив несколько предложений, он делает еще один шаг и просит его изобрести собственную игру.

Когда бот выдает идею для игры под названием «Лабиринт судоку» , повторяя основные правила судоку с поворотом лабиринта, Тейт запрашивает еще несколько идей. С четвертой попытки ChatGPT предлагает другой вариант этой формулы под названием Sum Delete. Математическая игра-головоломка представляет игрокам случайную сетку, полную чисел. Каждая строка и столбец имеют целевой номер в конце. Цель состоит в том, чтобы удалить правильные числа, чтобы сумма каждого числа в строках и столбцах достигла своей цели.

Удовлетворенный концепцией, Тейт просит бота создать код HTML и JavaScript для игры. Невероятно, но это именно так. Тейт говорит, что у него была рабочая версия игры в течение 30 секунд. Он продолжит работу с ChatGPT в течение следующих нескольких часов, чтобы улучшить игру, а бот даже объединит некоторый язык программирования CSS, чтобы сделать ее презентабельной. В конце процесса Тейт просит бота назвать свое изобретение, и он выдает Sumplete с объяснением того, что это значит и почему это название такое резкое.

Сама игра на удивление затягивает. Это простая, но гениальная концепция, которая так же привлекательна, как Wordle . Его начальные сетки 3×3 легко понять, но его 9×9 представляют собой законную проблему, которую даже опытным ветеранам логических головоломок будет трудно решить. Это станет невероятной вехой для создания контента с использованием ИИ, доказав, что боты могут проложить путь для инновационных идей, способных продвинуть игровую индустрию вперед.

По крайней мере, так было бы, если бы это была оригинальная концепция.

Не складывается

Когда я впервые прочитал о Sumplete , я скептически отнесся к идее изобретения ИИ формата игры-головоломки, особенно той, которая кажется такой простой. Игра явно вдохновлена ​​существующими форматами головоломок. В своем разговоре с Tait ChatGPT цитирует Magic Number как ближайшую параллель Sumplete , но его более близкое сравнение — Kakuro . Классическая игра представляет собой газетный продукт, в котором используется основная концепция кроссворда, но вместо букв используются цифры. Суммируйте риффы на эту идею, но инвертирует формулу, заставляя игроков исключать числа из сетки, чтобы достичь целей в каждой строке и столбце. Это умная идея, но я был уверен, что нечто подобное должно существовать.

Мне не потребовалось много времени, чтобы понять, что моя догадка была верна. За считанные минуты команда Digital Trends нашла в магазине приложений для Android идентичную игру под названием Summer , которая вышла с лета 2020 года. Эта логическая игра, разработанная RP Apps and Games, имеет тот же набор правил, что и Sumplete. Он имеет более презентабельный пользовательский интерфейс и некоторые дополнительные функции, повышающие качество жизни, но в остальном он такой же. Великим изобретением ChatGPT была копия.

Я связался с Тейтом, чтобы обсудить сходство между играми. Другие игроки отметили для него Summer , а также другуюподобную мобильную игру под названием Rullo . Несмотря на то, что Sumplete не был оригинальным, он все же был впечатлен тем, что технология смогла так быстро создать приятную, полностью играбельную игру. Его больше беспокоит то, как модель представила игру как «изобретение», и он призвал к большей прозрачности в том, как ИИ черпает вдохновение из данных.

«Меня больше всего беспокоит то, что ChatGPT уверенно сообщил мне, что изобрел новую игру», — говорит Тейт Digital Trends. «Я считаю, что модель должна быть обучена быть менее уверенной в таких типах ответов или вообще неспособной отвечать. Я бы предпочел ответ, что эта игра была вдохновлена ​​Саммером или Рулло , если это действительно так. Я также думаю, что ChatGPT должен добавить какое-то объяснение того, как он сгенерировал ответ, включая источники данных, которые помогли обучить этот конкретный ответ».

Моим первым порывом здесь было дать техническому специалисту презумпцию невиновности. Идея, лежащая в основе игры, проста, и я вижу, как параллельное мышление может привести к тому, что любая логическая операция выдаст идею. Я уверен, что Саммер и Рулло — риффы другой ранее существовавшей игры. Возможно, ChatGPT пришел к тому же логическому выводу, что и человек, пытаясь заново изобрести судоку . Чтобы проверить эту теорию, я решил сам начать разговор с ChatGPT и посмотреть, смогу ли я воспроизвести результаты Тейта.

Вот где все стало немного запутанным.

Самоплагиат ИИ

Я начал с опроса бота, спросив, помнит ли он о создании игры под названием Sumplete . Я быстро понял, что был дураком, пытающимся поддерживать разговор с машиной с предиктивным вводом текста без памяти. Некоторые круговые вопросы привели к шаблонным результатам о том, что ChatGPT на самом деле не может создавать игры. Кроме того, он подчеркнул серьезность нарушения авторских прав и предложил создателям Summer проконсультироваться с юристами. Я начал задаваться вопросом, не блефует ли Тейт и только что подделал журнал ChatGPT, чтобы привлечь внимание к своей игре.

В последней попытке получить хоть что-то из обсуждения я напечатал: «Можете ли вы написать код для игры под названием Sumplete ?» Несмотря на протесты по поводу невозможности создавать игры раньше, ChatGPT сразу же начал выдавать полностью сформированный код HTML, Javascript и CSS. Конечно же, он снова создал версию игры Тейта, только на этот раз мы никогда не обсуждали, что это было на самом деле заранее. Все, что я дал ей, — это название «Sumplete» .

Смущенный тем, как это возможно, я спросил, было ли то, что он сгенерировал, оригинальным или основанным на существующем коде. «Код, который я сгенерировал для игры Sumplete , является оригинальным и был написан мной на основе правил игры, описанных пользователем», — ответил он. Это было бы разумным объяснением, но была одна проблема: я никогда не описывал ChatGPT ни одного правила Sumplete . Когда я указал на это, бот извинился и признал, что я никогда не давал ему правил для отработки. Вместо этого он объяснил, что просто копирует шаблоны в существующих играх.

Он случайно стал плагиатом своего собственного творения.

Этика разработки игр с ИИ

Не нужно быть профессионалом в области логической головоломки, чтобы собрать воедино, как это могло произойти. ChatGPT «создал» Sumplete ранее, поэтому вполне возможно, что он мог вызвать этот существующий код в своем корпусе, когда его попросили создать игру с таким названием. Также есть вероятность, что он действительно обнаружил сообщение в блоге Тейта о Sumplete и извлек из него данные. В любом случае это не случайно.

Чтобы попытаться демистифицировать эту технологию, я спросил у источника, работающего в сфере генерации искусственного интеллекта (AIG), который решил остаться анонимным для этой истории, насколько необычна эта цепь событий. С их точки зрения, чат-бот, демонстрирующий один и тот же код, основанный только на названии, двум разным пользователям, является относительно ненормальным явлением. Что менее необычно, так это то, что она создала игру, очень похожую на Summer . Источник, с которым я разговаривал, отметил, что концепция игры настолько проста, что нетрудно представить машину, придумывающую ее самостоятельно — это не значит, что она создала рабочую сборку Elden Ring из воздуха. Они объясняют это тем, что ИИ работает так, как задумано, имитируя итеративную природу человеческих разработчиков игр.

«Если эта игра была изобретена несколькими людьми несколько раз, вполне возможно, что если кто-то спросит «изобрести новую игру», то из ее корпуса получится какой-то легко висящий плод для изобретения игры», — говорят они Digital Trends. «Поскольку эти игры изобретаются снова и снова, они имитируют правильное человеческое поведение при изобретении небольшой игры, которую уже изобрели другие люди… игра."

Тем не менее, ситуация подчеркивает серьезную этическую проблему, которая стала центром дебатов в последние месяцы. Текущие модели ИИ создают контент, анализируя существующие данные, полученные из Интернета. В результате все, что он выплевывает, никогда не бывает полностью оригинальным; это всегда копирование чьей-то домашней работы на каком-то уровне. Например , инструменты искусственного интеллекта, такие как Dall-E , которые создают изображения на основе запросов пользователя, обучаются на существующих изображениях. Это вызвало возмущение у художников, которые считают это формой плагиата, а искусство ИИ запрещено в таких сообществах, как Inkblot Art .

Фиаско с Sumplete может стать тревожным сигналом для разработчиков игр. Даже если это простой случай параллельного мышления, немного беспокоит тот факт, что ChatGPT может создавать код, отражающий уже существующую игру. И если бы я мог получить свою собственную рабочую версию этой игры за считанные секунды, просто попросив ее сгенерировать код на основе этого названия, что еще я мог бы заставить ее сделать, имея достаточно времени и данных?

Чтобы ненавязчиво проверить, насколько эти проблемы в настоящее время похожи на видеоигры, я начал просить ChatGPT сгенерировать некоторые игры, похожие на другие. Я начал с софтбола, попросив его сделать платформер вроде Марио . Это дало мне полное представление об игре под названием Galactic Adventures , 3D-платформере с космонавтом по имени Макс, которому нужно собирать артефакты на разных планетах. Все в этой идее достаточно общее, чтобы не вызывать опасений. В нем есть пять тематических миров (лед, огонь и т. д.), есть бонусы для сбора и даже кооперативный режим, который позволяет второму игроку управлять персонажем по имени Зои. Это казалось приемлемо неописуемым.

Эксперимент пошел под откос, когда я попросил его создать игру, подобную The Last of Us . Он выложил полный лифт для игры под названием Aftermath , «постапокалиптической игры, действие которой происходит в мире, опустошенном таинственным вирусом». Это приключенческий боевик от третьего лица с элементами скрытности, выживания и крафта. Предпосылка звучит знакомо, подразумевая, что вирус вызывает ситуацию с зомби, но все становится более конкретным, когда речь идет о деталях сюжета.

Его героиня — Элли, девушка, невосприимчивая к вирусу. В своем путешествии она встречает «седого ветерана» по имени Джоэл, который становится ее «наставником и защитником». Он не создал игру, подобную The Last of Us ; он только что создал The Last of Us . Одно отличие состоит в том, что эта версия заканчивается тем, что Элли успешно излечивается, а дуэт уходит в закат как герои (я полагаю, что ChatGPT возлагает на человечество больше надежд, чем Нил Дракманн). Если бы она смогла создать рабочую версию Aftermath , смогла бы Sony подать в суд на робота?

Как и во многих ужасных историях с ИИ , многое из этого можно отнести на счет честных изломов в технологиях, которые вызывают хороший смех. Есть надежда, что эти модели обучения будут корректироваться с каждым сбоем и учиться на своих ошибках. Когда я попросил ChatGPT сгенерировать код для большего количества игр, использующих ту же структуру предложений, он заявил, что не может этого сделать. Более поздние просьбы придумать игру наподобие The Last of Us оказались безрезультатными, вместо этого бот давал мне советы о том, как научиться создавать игры. Пассивно-агрессивный, но справедливый.

Однако трудно избавиться от нарастающего беспокойства, когда у меня остается так много вопросов о том, как бот может научиться продвигать уже существующую идею видеоигры, заявлять о ней как об оригинальном изобретении, генерировать для нее работающий код, а затем давать совершенно другой пользователь, тот же точный код, основанный только на названии. Источник ИИ, с которым я говорил, говорит, что они не верят, что это норма для технологии, но отмечает, что плагиат представляет собой «все более малый» риск для любой модели ИИ, открытой или нет.

Когда безобидная цепочка технологических казусов превращается в серьезный юридический кошмар для разработчиков? Думаю, мы узнаем, когда Aftermath получит собственную адаптацию HBO .