Поскольку использование искусственного интеллекта в играх растет, SAG-AFTRA борется за то, чтобы сделать эти технологии этичными.
Ежегодная конференция разработчиков игр (GDC) становится важнейшим событием для индустрии видеоигр. Это единственный раз в году, когда разработчики могут собраться вместе, чтобы поделиться своими инновациями, обсудить состояние отрасли и выступить за масштабные изменения. Однако выставка этого года особенно важна. Это происходит на фоне катастрофической волны увольнений в студиях , в результате которой более 10 000 человек остались без работы. Это происходит по мере того, как руководители обращаются к таким инструментам, как генеративный искусственный интеллект, для сокращения затрат, что вызвало бурю вокруг проблем с трудом.
Объединение профсоюзов и защита работников станут заголовками выставки в этом году, и на ней присутствует крупный игрок, который будет говорить об этих проблемах. На этой неделе будут присутствовать представители Гильдии киноактеров и Американской федерации артистов телевидения и радио (SAG-AFTRA), которые проведут дискуссии, посвященные представлению гомосексуалистов и опасностям технологии дипфейков в играх. Хотя профсоюз будет обсуждать несколько параллельных проблем, которые в настоящее время беспокоят отрасль, он также будет ключевым голосом в отстаивании этического использования ИИ в течение недели, и это наверняка будет горячей темой.
В беседе с Digital Trends перед GDC Сара Эльмалех из SAG-AFTRA, председатель комитета по интерактивным переговорам, и Рэй Родригес, директор по контрактам, подробно рассказали о позиции профсоюза в отношении искусственного интеллекта в играх. И Эльмалех, и Родригес изложили, что, по мнению комитета, является правильным способом обращения с технологией, которая вряд ли исчезнет.
«Я, конечно, смотрю на ИИ с опаской и большой тревогой по поводу того, что может произойти, но я не рассматриваю его исключительно в негативном свете», — рассказал Родригес Digital Trends. «Это задача, которая стоит перед нами, и мы должны быть уверены, что сможем справиться с этой задачей».
Дебаты об ИИ
Стороннему наблюдателю может показаться, что в последние месяцы SAG-AFTRA активизировала усилия по защите участников видеоигр. Его участие в GDC завершает несколько напряженных месяцев после завершения успешной забастовки артистов телевидения и театра в 2023 году, которая дала актерам новые гарантии против использования ИИ. С тех пор все внимание было приковано к профсоюзу, поскольку он работает над созданием аналогичных барьеров для актеров видеоигр (его последняя инициатива — многоуровневая система соглашений , которая расширяет производственные бюджеты).
«Я думаю, что профсоюз стал заметен в целом», — говорит Родригес. «Я думаю, что во многом это связано с рядом проблем, которые действительно привлекли внимание исполнителей и других участников отрасли к необходимости введения дополнительных правил дорожного движения. ИИ является ярким примером этого. Это, безусловно, пример, который наиболее уместен в сфере видеоигр с точки зрения проблемы, которая подчеркивает для людей идею защиты профсоюзов».
В этом году генеративный искусственный интеллект стал особенно сложной темой для видеоигр, поскольку компании начинают внедрять его в игры. На выставке CES в этом году Nvidia объявила о расширении своего микросервиса Ace , который способен создавать полностью озвученные неигровые персонажи (NPC) с помощью ИИ. Это вызвало споры об этичном использовании после того, как Nvidia изначально обошла вопрос об использовании данных. В конечном итоге компания отступила и подтвердила, что у нее есть права на все, что лежит в основе Ace , но интервью с Пурненду Мукерджи, основателем Convai (инструмента, который помог создать демо-версию Ace CES от Nvidia), показало, что базовая технология основана на открытом исходном коде. Модели ИИ . Мукерджи признал, что у него нет возможности узнать, содержат ли эти модели материалы, защищенные авторским правом.
Подобные моменты вызвали замешательство в индустрии видеоигр и вызвали массовое сопротивление новым технологиям. SAG-AFTRA ввязалась в собственную полемику на выставке CES после заключения соглашения с Replica Studios, создателями инструмента для озвучки на базе искусственного интеллекта. Эта новость вызвала некоторую обеспокоенность среди членов SAG: некоторые заявили, что им так и не сообщили о сделке, несмотря на сообщения о том, что «затронутые члены» ее одобрили. Эльмалех объяснил это недопониманием того, как работает одобрение комитета, и дал четкое объяснение того, как заключалась эта сделка.
«К нам обратилась [Replica Studios]», — рассказал Эльмалех Digital Trends. «Они хотели уважительно сотрудничать с актерами. Они пришли к нам, чтобы доверить нам подробно рассказать, как это будет выглядеть. У нас были действительно продуктивные, долгосрочные дискуссии о том, как сделать работу конкретной, реальной и значимой. Мы бы сделали то же самое для других людей, которые добросовестно приходят к нам, чтобы обсудить это. Так что это не значит, что им предоставлена какая-то особая привилегия — они пришли к нам поговорить, и у нас были и другие подобные разговоры, которые, я надеюсь, будут раскрыты в будущем».
Эта позиция ясно дает понять, что подобные сделки могут появиться в ближайшее время, что обязательно вызовет дополнительные дебаты. Однако и Эльмалех, и Родригес подчеркивают, что профсоюз не намерен закрывать технологию. Скорее, Родригес считает, что лучший способ борьбы с потенциальным неправомерным использованием технологии — это взять бразды правления в свои руки.
«Вся история индустрии развлечений — это история прорывных технологий», — говорит Родригес. «Были люди, которые думали, что появление звукового кино положит конец кинобизнесу. Урок из этого заключается в том, что невозможно избежать новых технологий, и, во-вторых, небо на самом деле пока не падает. Такое ощущение! Я не хочу пренебрегать чьими-либо опасениями, особенно когда речь идет о технологии искусственного интеллекта. Он действительно содержит в себе риск экзистенциальной угрозы, но история учит нас, что единственный выход — пройти. Вы не сможете обойти технологическое развитие и защитить людей, просто избегая технологий».
Борьба за этичное использование
Активное сотрудничество с компаниями, занимающимися искусственным интеллектом, — это только начало усилий SAG; настоящая работа заключается в обеспечении этического использования технологии вместе с компаниями, ее внедряющими. Это основная причина заключения сделки с Replica Studios . Когда было объявлено об этой сделке, генеральный директор Replica Studios Шрейас Нивас сказал мне, что Replica использует данные исключительно от актеров, давших согласие.
«Окончательные модели всегда дорабатываются на специальных обучающих наборах, которые были лицензированы актерами озвучивания», — рассказал мне тогда Нивас по электронной почте. «Голоса, обращенные к публике, никогда не состоят из голосовых данных, полученных из материалов с открытым исходным кодом». Подобные детали являются ключом к пониманию того, почему комитет SAG одобрил сделку по искусственному интеллекту после нескольких месяцев борьбы с этой технологией.
«Мы стремимся установить справедливые правила дорожного движения, которые защитят наших участников, когда они работают с использованием этой технологии», — говорит Родригес. «Существует использование технологий искусственного интеллекта и эксплуатация людей с помощью технологий искусственного интеллекта. Мы хотим облегчить первое и предотвратить второе. Поэтому мы хотим, чтобы люди имели права на свои голоса, свои изображения, свои движения и чтобы они были защищены, чтобы они знали, для чего используется их работа, они соглашались с тем, для чего используется их работа, и за что им справедливо платили. для чего используется их работа, включая способы манипулирования их работой».
Эльмале, плодовитая актриса озвучивания, работавшая над рядом проектов от Gone Home до Fortnite , преследует ту же цель. По ее мнению, ИИ должен быть контролируемым инструментом, который позволит актерам получать больше пользы от своей работы, а не от замены.
«Если у вас есть свобода действий, общение и сотрудничество, когда вы приближаетесь к предоставлению этой способности своим сотрудникам, тогда она должна работать как протезное продолжение вас самих, где ценность возвращается к вам, когда ваше самовыражение исходит от вас. — говорит Эльмалех. «Он может расширить вашу способность находиться в нескольких местах одновременно или выполнять определенные действия, но не заменяет вас. Это не автомат на линии, который смещает вас от вашей ценности; это просто расширение».
Это оптимистичный взгляд, и невозможно узнать, думают ли игровые студии, желающие внедрить генеративный ИИ, то же самое. Вот здесь-то и возникает напряженность. Чем больше технология нормализуется в отрасли, тем больше риск расширения масштабов. SAG стремится вознаграждать компании, которые придерживаются определенных этических принципов, но нынешнее отсутствие регулирования технологий затрудняет гарантию того, что все будут играть по одним и тем же правилам. И в тот момент, когда компании сокращают тысячи рабочих мест, стремясь к ИИ, любая поддержка технологии неизбежно вызовет опасения.
Тем не менее, Эльмалех надеется, что ИИ сможет сосуществовать с традиционной актерской игрой в том виде, в котором она существует сейчас. «Я рассматриваю их как параллельные направления пропаганды и коммуникации», — говорит она, отмечая, что индивидуальные исполнения по-прежнему дают играм творческое и конкурентное преимущество над алгоритмическим продуктом. «Если мы обсуждаем это как ярлык для традиционных форм исполнения, то я согласен назвать это ярлыком. Наша индустрия использует ярлыки, испытывая огромное давление, заставляя постоянно создавать игры».
Хотя создание этической основы для использования ИИ в играх важно, это не является полным решением текущего трудового кризиса в отрасли . Массовые увольнения подчеркнули необходимость усиления защиты создателей игр, особенно в связи с появлением таких технологий, как генеративный искусственный интеллект. Хотя SAG-AFTRA не представляет разработчиков, Эльмалех поясняет, почему любой, кого волнуют игры, должен интересоваться тем, как решаются эти темы, будь то компании, производящие игры, или профсоюзы, защищающие своих работников.
«Меня, как человека, который заботится о разработчиках, это приводит в ярость и смятение», — говорит Эльмалех по поводу недавних увольнений. «Я желаю им тех же инструментов, которые пригодятся нам как актерам, чтобы защитить себя. SAG-AFTRA не объединяет разработчиков игр, но я всегда был солидарен с разработчиками игр в их праве самостоятельно определять, что им нужно для безопасной, устойчивой и долгосрочной карьеры в этой сфере. Я искренне убежден, что, когда мы выжигаем людей и оскорбляем их, мы теряем игры… Это наша потеря чувств».