Неужели весь мир обманут? Появление «цифрового двойника» на конференции Nvidia на 14 секунд выявило большую проблему.

Хуан Жэньсюнь обманул весь мир, и больше трех месяцев этого никто не замечал! Кожаная одежда – подделка, кухня – подделка, даже он сам – подделка!

За последние два дня по экрану лихорадочно прокатилась новость, шокировавшая научный и технологический круг. Дело в том, что NVIDIA недавно выпустила закулисный документальный фильм о конференции GTC в апреле , показывающий, как технические специалисты могут использовать платформу Omniverse для создания различных спецэффектов 3D-моделирования на месте. К ним относятся идеальное воспроизведение кухни Хуан Жэньсюня и синтез его собственного «цифрового человека».

Какой? Босс Хуан, который перед ним так реалистичен, не живой человек?

Пока не волнуйтесь, это не то, что вы думаете. Фактически, согласно блогу Nvidia , в тот день на пресс-конференции продолжительностью 1 час 48 минут «цифровые люди» заняли всего 14 секунд (оригинальный фильм 01:02:41 – 01:02:55). Вне этих 14 секунд говорил сам Хуан Жэньсюнь.

21 истинное и ложное Хуан Жэньсюнь

14 секунд, которые Nvidia назвала кульминацией пресс-конференции, выглядят так:

Когда представили первый процессор Grace от Nvidia, настоящая кухня мгновенно превратилась в фальшивую и начала «распадаться», как трансформатор. Затем сцена вошла в виртуальное пространство, и «цифровой человек» Хуан Жэньсюня появился в своем искусственном кожаном костюме.

Вы можете полностью понять этот абзац как демонстрацию платформы Omniverse. Согласно официальному описанию, эти 14 секунд сочетают глубокое обучение Nvidia с работой группы исследования изображений, команды инженеров и дизайнеров.

Чтобы воссоздать эту кухню, техники сделали сотни снимков с разных ракурсов, а затем выполнили 3D-моделирование. Говорят, что здесь целых 6000-8000 наименований. Также они незаметно закопали в фальшивой кухне три пасхальных яйца: кофемолку с логотипом Nvidia, банку оливкового масла с торговой маркой Tao и злодея из Lego с внешностью Хуан Рэньсюня.

Что касается самого «фальшивого» генерального директора, ему нужно сначала провести Хуан Ренсюня (и его кожаную куртку) в 3D-сканировании всего тела, моделируя его на основе тысяч фотографий, а затем используя ИИ для тренировки движений и выражений лица.

Кроме того, они наняли специальных актеров, чтобы они выучили и имитировали язык тела из прошлых речей Хуан Жэньсюня, а затем провели 8 часов захвата движения. После множества детальных корректировок команда создала 21 версию «цифровых людей», чтобы босс, наконец, выбрал для кадра.

оригинал или подделка? Большая проблема за 14 секунд

На YouTube представлен этот закулисный документальный фильм: как группа художников стирает границы между реальностью и рендерингом в Keynote на конференции Nvidia. В основной части блога Nvidia заявила, что момент, когда кухня «распалась», удивил аудиторию. Все начали задаваться вопросом, какая часть всей пресс-конференции была правдой, а какая была приписана ИИ.

Честно говоря, если внимательно оглянуться на эти 14 секунд, то эффект «дезинтеграции» кухни по-прежнему потрясающий, но синтетическая версия движений тела Хуан Жэньсюня относительно жесткая, и даже его рот немного не совмещен. Отличить его как шедевр искусственного интеллекта не так уж и сложно, и не так уж сложно отличить его от живой версии.

Но когда появилась неверная новость, я также на некоторое время впал в неуверенность в себе, и я начал чувствовать, что за 1 час 48 минут каждая улыбка босса Хуанга, когда он появлялся на сцене, казалась одним и тем же роботом. вкус как Цукерберг.

Ну вроде фейк. Эм? Он настоящий?

Почему нас сбивает с толку вопрос об истинном и ложном старом желтом? Это может быть потому, что мы живем в мире, где «видеть – не обязательно верить».

Возьмем, к примеру, технологию Deepfake. Когда-то ее использовали для производства порнографических видеороликов с участием знаменитостей женского пола или фейковых новостей о политиках и знаменитостях. В наши дни применение этой технологии получило более широкое распространение: все, что вам нужно, это выстрел в голову, и ваши коллеги-женщины или подруги могут стать жертвами обнаженных фотографий .

В эпоху, когда все может быть дипфейком, произвольное вмешательство в видео и голос – это всего лишь базовое упражнение6.

Симпатичная девушка на другом конце телефона на самом деле может быть искусственным интеллектом, которым манипулирует длинноногий мошенник. В 2019 году мошенники использовали синтезированную искусственным интеллектом речь, чтобы притвориться генеральным директором немецкой материнской компании британской энергетической компании, и успешно выманили у сотрудников компании 220 000 евро (около 1,73 миллиона юаней).

Сегодня даже прямая трансляция не вызывает доверия. Например, Nvidia недавно представила технологию виртуальных изображений в реальном времени. Даже если программист носит маску и ловит рыбу в кафе, то, что другая сторона видит на экране встречи в реальном времени, может заключаться в том, что в данный момент он представлен в своем офисном костюме. Как только вы захотите, вы можете мгновенно переключиться на изображение солнца и пляжного отдыха.

Многие эксперты напоминали, что это явление легко может вызвать недоверие к контенту социальных сетей и даже всего общества в целом.

Когда границы между реальностью и виртуальностью стираются, наш радар для различения людей и ИИ часто дает сбой. В Метавселенной или в будущем, которое сбудется, вы спрашиваете меня, действительно ли старый желтый цвет передо мной старый? Я действительно не смею отвечать.

Людям нужен маленький волчок

Буквально в прошлом месяце документальный фильм CNN «Roadrunner: A Film About Anthony Bourdain» вызвал волну дискуссий об этике использования ИИ.

Главный герой документального фильма – покойный звездный повар Энтони Бурден. В фильме было использовано множество видео и аудиоматериалов из его жизни, но режиссер не взял на себя инициативу информировать публику: есть три повествования, которые похожи на собственное повествование Бурдена, но на самом деле они созданы с помощью технологии искусственного интеллекта.

Хотя исходные тексты этих трех предложений взяты из электронных писем, написанных Бурденом, они по-прежнему вызывают у людей чувство дискомфорта, гнев и обман. Профессор журналистики Нью-Йоркского университета Мередит Бруссард сказала, что, в отличие от художественных фильмов и телевизионных работ, люди думают, что документальные фильмы реальны. Если в работе используется ИИ, это должно быть четко указано.

Николь Грин, аналитик Gartner Research, также соглашается четко проинформировать, когда вмешивается ИИ : «Будь то сотрудничество бренда с виртуальным кумиром или фильм, использующий технологию ИИ для воспроизведения роли умершего актера, если потребители знают, что происходит, они приемлемы ".

С 2015 года Associated Press использует ИИ для автоматической генерации новостей о доходах компании, и каждая статья будет сопровождаться пометкой: «Эта история автоматически создается с помощью Automated Insights». Чтобы вам было ясно сказать, это рукопись, написанная AI Moving Bricks.

Это простое предложение похоже на «руководство для родителей» перед началом фильма ужасов, упаковку лапши быстрого приготовления и рекламу гамбургеров «все преобладает в натуральном выражении». Это базовое информационное уведомление, ответственность за которое производитель несет перед потребителем. В эпоху, когда дипфейки и другие технологии потребляют доверие, они могут даже восстановить доверие.

Мы не отказываем ИИ в проникновении в реальную жизнь. В конце концов, он открывает бесконечные новые возможности для эффективности и творчества (что касается злоупотребления ИИ, это уже другая тема). Но все мы хотим иметь право знать.

Лил Микела, один из самых горячих виртуальных айдолов в мире, дебютировал в 2016 году и только в 2018 признал, что он не настоящий человек. Теперь ее самоотведение в Instagram написано как «19-летний робот, живущий в Лос-Анджелесе», а Имма, которая также пользуется популярностью, называет себя «виртуальной девушкой, интересующейся японской культурой».

Хотя это, по сути, просто последовательность кодов, состоящая из 0 и 1, это не влияет на их поиск молодыми людьми. Сегодня у Микелы и Иммы миллионы поклонников, ресурсы сотрудничества в области моды и рекламы смягчены, и они являются настоящими знаменитостями социальных сетей.

На этот раз, оглядываясь назад на истинного и ложного Хуан Жэньсюня из NVIDIA, если я могу побеспокоить ИИ или персонал, чтобы добавить строку объяснения на демонстрационный экран, можно ли избежать «шокирован! Весь мир обманут». "Лао Хуан на пресс-конференции – все фальшивка" Такой инцидент с улуном?

В мире, где истину и ложь трудно отличить, людям нужен вращающийся или падающий волчок в «Начале», чтобы напоминать нам: передняя часть – это виртуальное пространство, пожалуйста, будьте бдительны и проходите осторожно.

В настоящее время интернет-компании, такие как Facebook, Google и Twitter, изучают, как обнаруживать и сдерживать распространение видео Deepfake, а в некоторых областях также были введены соответствующие запреты. Но это все еще как игра в кошки-мышки.

Что касается ограничений на использование ИИ и этических вопросов, предполагается, что соответствующие законы и постановления будут приняты в будущем. Друзья, мы стоим у входа в метавселенную. Ложь – это правда, а истина – ложь. Все только что началось.

# Добро пожаловать, чтобы подписаться на официальный аккаунт Aifaner в WeChat: Aifaner (идентификатор WeChat: ifanr), более интересный контент будет предоставлен вам как можно скорее.

Ai Faner | Исходная ссылка · Посмотреть комментарии · Sina Weibo