Google начнет маркировать изображения, созданные искусственным интеллектом, в поиске

В последние месяцы изображения, сгенерированные искусственным интеллектом, стали все более преобладать в результатах поиска Google , вытесняя законные результаты и затрудняя пользователям поиск того, что они на самом деле ищут. В ответ Google объявил во вторник , что в ближайшие месяцы начнет маркировать результаты поиска изображений, созданных и отредактированных AI.

Компания пометит такой контент в окне «Об этом изображении», и он будет применен к функциям поиска, Google Lens и Android Circle to Search . Google также применяет эту технологию в своих рекламных сервисах и рассматривает возможность добавления аналогичного флага к видео на YouTube, но, согласно сообщению, «об этом будет сообщено позднее в этом году».

Google будет полагаться на метаданные Коалиции за происхождение и подлинность контента (C2PA) для идентификации изображений, созданных искусственным интеллектом. Это отраслевая группа, к которой Google присоединился в качестве члена руководящего комитета ранее в этом году. Эти «метаданные C2PA» будут использоваться для отслеживания происхождения изображения, определения того, когда и где изображение было создано, а также оборудования и программного обеспечения, использованных при его создании.

На данный момент к C2PA присоединился ряд тяжеловесов отрасли, в том числе Amazon, Microsoft, OpenAI и Adobe. Однако сам стандарт не получил особого внимания со стороны производителей оборудования, и в настоящее время его можно найти только на нескольких моделях камер Sony и Leica. Несколько известных разработчиков инструментов генерации искусственного интеллекта также отказались принять этот стандарт, например Black Forrest Labs, которая создает модель Flux, которую Grok использует для генерации изображений.

За последние два года количество онлайн-мошенничества с использованием дипфейков, созданных искусственным интеллектом, резко возросло. В феврале, например, финансиста из Гонконга обманом заставили перевести 25 миллионов долларов мошенникам , которые выдавали себя за финансового директора компании во время видеоконференции. В мае исследование, проведенное поставщиком услуг проверки Sumsub, показало, что в период с 2023 по 2024 год количество случаев мошенничества с использованием дипфейков увеличилось на 245% во всем мире, причем в США оно увеличилось на 303%.

«Публичная доступность этих услуг снизила входной барьер для киберпреступников», — заявил CNBC в мае Дэвид Фэйрман, директор по информационным технологиям и директор по безопасности APAC компании Netskope. «Им больше не нужно иметь специальные технологические навыки».