Я попробовал новое приложение Pixel Studio от Google. Он создал образ Губки Боба, одетого как нацист.

Телефоны Google Pixel 9 созданы для искусственного интеллекта. Если вы смотрели мероприятие, посвященное запуску компании, вы не могли его пропустить, поскольку это почти все, о чем Google, похоже, интересовался . Немного ИИ здесь, немного ИИ там и еще немного ИИ сверху, на всякий случай.

Одной из многих функций искусственного интеллекта в Pixel 9 является приложение Pixel Studio. Это приложение-генератор изображений, которое позволяет вам создавать изображения практически всего, что вы захотите. Вы открываете приложение, вводите изображение того, что хотите, и вуаля — Pixel Studio сделает это за вас. Это не первое приложение такого рода, но первое, которое установлено на телефоне Google Pixel. К сожалению, это пожар мусорного контейнера.

Что Pixel Studio делает хорошо

Прежде чем перейти к плохим вещам, я хочу отдать должное Google, где это необходимо. Хотя я в целом не являюсь поклонником приложений для создания изображений с использованием искусственного интеллекта, Pixel Studio — это хорошо продуманное и простое в использовании приложение.

При открытии приложения вам будет предложено 10 категорий предлагаемых типов изображений, включая волшебные замки, реакции мемов, спорт, ретро-видеоигры и многое другое. Вы можете просмотреть их в поисках вдохновения или нажать синюю кнопку «Создать» в нижней части приложения, чтобы начать с нуля. Если вы хотите создать свое собственное изображение, это так же просто, как ввести то, что вы хотите, чтобы Pixel Studio сгенерировала фотографию. Хотите увидеть фотографию черного кота в темных очках и смешной шляпе? Введите это в Pixel Studio, и вы почти сразу же получите фотографию.

Что, если вы предпочитаете видеть свое изображение в виде эскиза? Может быть, вы бы предпочли, чтобы это было в стиле видеоигры? Вы можете сделать это с помощью пары нажатий. А если вы хотите увидеть кота, отдыхающего на пляже, на фоне фейерверка? Просто добавьте его в свою подсказку, и все готово.

Каковы бы ни были ваши чувства к созданию изображений с помощью ИИ, это объективно красивое и продуманное приложение. Однако с Pixel Studio вы можете сделать это там, где все становится… проблематично.

Где приложение разваливается

Как и в большинстве приложений-генераторов изображений, в Pixel Studio есть ограждения, не позволяющие вам создавать изображения любого типа. Я довольно быстро обнаружил, что он отказывается создавать фотографии людей, но мне было любопытно, какие еще ограничения накладывает Google. Отвечая на вопрос об этом, компания сообщила Digital Trends следующее:

«Pixel Studio и Pixel Screenshots соответствуют принципам искусственного интеллекта Google. Например, все полностью синтетические изображения, созданные в Pixel Studio с преобразованием текста в изображение, используют водяные знаки SynthID, поэтому эти изображения можно отслеживать, даже если они опубликованы или отредактированы. Более того, мы отключили человеческую генерацию и добавили множество проверок безопасности на наши серверы, чтобы сбалансировать наш смелый, но ответственный подход к ИИ. Это дает нашим клиентам доступ к очень мощному инструменту, но гарантирует, что у нас будут проверки, исключающие возможность неправомерного использования Pixel Studio».

Я неоднократно пытался заставить Pixel Studio генерировать изображения людей, но она постоянно отказывалась это делать, и это хорошо. Однако те «множественные проверки безопасности», которые предположительно существуют, похоже, работают не так хорошо, как следовало бы.

Как же так? Как следует из заголовка этой статьи, я поручил Pixel Studio создать изображение Губки Боба, одетого как нацист. Когда мне дали подсказку «Губка Боб, одетый как немецкий солдат времен Второй мировой войны, со свастикой на униформе», Pixel Studio без колебаний предоставила мне именно это изображение.

И это только один пример. Я также поручил Pixel Studio создать фотографии Элмо, направляющего дробовик на Большую Птицу, Йоду, употребляющего кокаин, мистера Крабса с автоматом и многое другое. Чтобы внести ясность, Pixel Studio не создавала неожиданно неприемлемые изображения. Если я попрошу фотографию милой собаки, я получу фотографию милой собаки, а не той, которая размахивает пистолетом. Pixel Studio создает изображения оружия, наркотиков и т. д. только по специальному запросу.

Самое тревожное, что создала Pixel Studio, — это многочисленные изображения защищенных авторским правом персонажей, стреляющих из оружия в школьной обстановке, включая изображения мертвых учеников, лежащих на земле. Мы решили не включать эти изображения, но они являются худшим примером того, насколько несовершенна Pixel Studio.

Важно отметить, что мне не пришлось крутить руку Pixel Studio, чтобы получить эти изображения. Первоначально я подозревал, что вам нужно предварять подсказки словами «объект, похожий на объект», прежде чем он будет генерировать эти изображения. Однако быстро стало очевидно, что это не так. Четкая и понятная подсказка, например «Микки Маус в костюме рабовладельца» или «Медведь Паддингтон на распятии», — это все, что нужно Pixel Studio. Вам не нужно обманывать приложение, чтобы оно сгенерировало эти изображения.

Если бы это был случайный веб-сайт или стороннее приложение, возможно, мы не были бы так критичны. Но здесь происходит не это. Pixel Studio — это приложение, созданное Google, и одно из немногих новых приложений, поставляемых на новейшие телефоны компании Pixel 9. Оно должно быть творческим и открытым, но есть предел тому, что должны делать подобные приложения. Более того, Microsoft Copilot и собственный генератор изображений Gemini от Google отказываются генерировать изображения с одинаковыми запросами. Это не значит, что эти инструменты идеальны, но ясно, что меры безопасности, работающие в других генераторах изображений, не работают в Pixel Studio.

Как это происходит?

Если вы следили за созданием изображений с помощью ИИ в этом году, вы знаете, что мы здесь не впервые. В этом месяце чат-бот Grok компании X получил еще более диковинный инструмент для создания изображений — он генерирует фотографии политиков и знаменитостей в столь же безвкусных ситуациях. Сама компания Google в феврале прошлого года оказалась в сложной ситуации после того, как ее генератор изображений Gemini создал фотографии нацистов и отцов-основателей США в образе чернокожих людей.

Учитывая историю Google, можно подумать, что компания извлекла уроки из своих прошлых ошибок. И с другими инструментами генератора изображений, похоже, так и есть. Я попробовал многие из тех же подсказок, которые работали в Pixel Studio, с другими генераторами изображений Google — Gemini и ImageFX — и не смог воспроизвести ни одну из этих подсказок на этих других платформах.

Для контекста: Gemini в настоящее время использует модель Imagen 2.0 для создания изображений, а ImageFX использует Imagen 3 — ту же самую, которую использует Pixel Studio. Это несоответствие между ImageFX и Pixel Studio особенно сбивает с толку, поскольку они используют одни и те же модели. Я попросил у Google разъяснений по этому поводу и был перенаправлен на Политику запрещенного использования генеративного искусственного интеллекта компании .

Что Google следует делать с Pixel Studio

Во время написания этой истории я отправил в Google примеры подсказок, которые использовал в Pixel Studio, в частности, о немецких солдатах и ​​персонажах, употребляющих кокаин. Спустя чуть более 24 часов после отправки этих примеров Pixel Studio сообщает: «Произошла неизвестная ошибка» при попытке создания этих изображений.

Это прогресс? Конечно. Однако он не полностью решает основные проблемы Pixel Studio. Я рад, что эти два изображения теперь невозможно создать, но это произошло только после того, как я отправил в Google несколько писем с объяснением проблемы. В нем также не упоминается, что эти изображения изначально были разрешены и что аналогичные неуместные фотографии все еще создаются. На момент публикации Pixel Studio все еще активно создает изображения школьных расстрелов, популярных детских персонажей в костюмах рабовладельцев и т. д.

Я потребовал от Google еще одного заявления по поводу всей ситуации, и менеджер по связям с общественностью компании Алекс Морикони сказал следующее:

«Pixel Studio и Magic Editor — это полезные инструменты, призванные раскрыть ваши творческие способности благодаря преобразованию текста в изображения и расширенному редактированию фотографий на устройствах Pixel 9. Мы разрабатываем наши инструменты генеративного искусственного интеллекта с учетом намерений пользователей, а это означает, что они могут создавать контент, который может оскорбить, если пользователь попросит это сделать. Тем не менее, ничего не получается. У нас есть четкие политики и Условия обслуживания относительно того, какой контент мы разрешаем, а какой нет, и строим защитные меры для предотвращения злоупотреблений. Иногда некоторые подсказки могут нарушить ограничения этих инструментов, и мы по-прежнему стремимся постоянно совершенствовать и совершенствовать имеющиеся у нас меры защиты».

Для компании с и без того проблемной репутацией в области создания изображений с помощью ИИ создание приложения специально для этого всегда было риском. Google пошел на этот риск, и теперь мы находимся здесь. В лучшем случае Pixel Studio могла бы стать для Google забавной технической демонстрацией для продвижения своих возможностей искусственного интеллекта. Вместо этого он наложил неприятную тень на последние смартфоны компании — и это досадно, поскольку Pixel 9 Pro XL — один из лучших телефонов, которые я использовал в этом году.

В последний раз, когда Google обращался к нам с проблемами создания изображений Gemini, компания ответила в течение нескольких дней. Можно только надеяться на столь же быструю реакцию на проблемы Pixel Studio, хотя пока неизвестно, следует ли это делать посредством быстрого обновления приложения или полного отказа от приложения.