Игровые персонажи Nvidia, управляемые искусственным интеллектом, становятся токсичными
Nvidia ACE , инструмент, предназначенный для преобразования игр с помощью генеративного ИИ, развивается, и Nvidia только что представила для него интересное обновление. Оказывается, разработчики не только смогут использовать ACE для создания полностью интерактивных персонажей с диалогами и выражениями лиц, но они также смогут использовать новую технологию Nvidia NeMo SteerLM для адаптации личностей этих персонажей.
Первоначально Nvidia анонсировала свой инструмент ACE в начале этого года, поэтому детали были довольно скудными. ACE — это что-то вроде ChatGPT для игр, предназначенное для того, чтобы разработчикам игр было проще создавать персонажей с полностью проработанной предысторией, добавляя больше глубины тому, как они взаимодействуют с игроками.
Используя эту технологию, игроки могут использовать голосовой ввод для взаимодействия с внутриигровыми неигровыми персонажами (NPC). Функция преобразования речи в текст Riva затем переводит их голос в текстовый ввод и передает его ИИ. Он передается в большую языковую модель (LLM), которая генерирует ответ, и Nvidia использует еще несколько инструментов ИИ для преобразования ответа обратно в речь и анимации персонажа.
Между взаимодействием с игроком и реакцией NPC есть довольно сложный путь, и Nvidia только что добавила дополнительный уровень сложности, включив новый NeMo SteerLM.
Nvidia представляет NeMo SteerLM как несколько переключателей, которые должны упростить настройку поведения персонажа. Пока мы видели три варианта: «Креативность», «Юмор» и «Токсичность». Хотя большинство геймеров — или, по крайней мере, те, кто играет онлайн — уже привыкли к токсичному поведению, интересно рассматривать его как вариант того, что по сути является чат-ботом с искусственным интеллектом с дополнительными шагами.
Перед добавлением NeMo SteerLM ИИ готовил собственный ответ на запрос игрока. Затем он вернется к Riva для преобразования текста в речь и, наконец, к Nvidia Omniverse для выражения лица, чтобы оно соответствовало речи. Однако теперь, прежде чем ИИ сгенерирует ответ, NeMo SteerLM вмешается с некоторыми атрибутами, чтобы определить, насколько полезным, забавным или причудливым будет NPC в своих взаимодействиях.
Усиление этих трех черт может привести к забавным результатам, но в равной степени легко представить, как ИИ полностью сходит с рельсов, как в тот раз, когда Bing Chat сказал нам, что хочет быть человеком .
Чтобы бороться с возможным безумием ИИ, Nvidia запустила инструмент NeMo Guardrails для разработчиков, чтобы они могли блокировать такое безумное поведение, а также предотвращать попытки игроков достичь нежелательных результатов. Теперь путь между игроком и ИИ расширился и теперь включает еще один инструмент. Я с нетерпением жду, когда эта функция будет реализована в играх. Что-то мне подсказывает, что, несмотря на все усилия со стороны Nvidia, первые дни ACE в играх будут не такими гармоничными, как можно было бы надеяться.