Беспокоитесь о предупреждении ФБР о дипфейках? Следуйте этим советам экспертов

На прошлой неделе Федеральное бюро расследований (ФБР) опубликовало публичное сообщение о росте откровенного контента дипфейков и о том, как он используется для таких преступлений, как вымогательство, шантаж и домогательства. Проще говоря, дипфейк — это синтетический мультимедийный материал, пытающийся имитировать оригинал . Это может быть фотография, видео или аудиоклип генерации AI.

Название «дипфейк» происходит от присущей технологии, используемой при создании таких медиа — глубокого обучения — которое включает в себя обучение модели ИИ с использованием исходного материала, а затем ее модификацию для получения желаемых результатов. Это не совсем новое изобретение, но с ростом популярности и доступа к генеративному ИИ число дипфейковых преступлений растет.

Их популярность настолько высока, что даже кампания кандидата в президенты от республиканцев Рона ДеСантиса использовала дипфейковые изображения соперника Дональда Трампа, чтобы оклеветать его. Дипфейки также являются одной из причин, по которой повсеместно звучат призывы к регулированию ИИ. По данным ФБР, контент для создания дипфейков обычно извлекается из постов в социальных сетях и клипов видеозвонков, а затем превращается в материалы откровенно сексуального характера для вымогательства и издевательств.

Что эксперты говорят о дипфейках

Итак, каково решение? К сожалению, решения нет. По крайней мере, не без компромисса, который в корне переворачивает все значение «социальных сетей» с ног на голову.

«К сожалению, единственный способ удостовериться, что ни одно из ваших фото или видео не используется для создания дипфейков, — это прекратить публиковать свои фотографии в Интернете, но это доставит массу удовольствия интернет-пользователям», — говорит Адрианус Варменховен, советник по кибербезопасности в Nord .

«По мере появления новых и лучших методов обеспечения безопасности злоумышленники найдут способ причинить вред. Это игра в догонялки, которая временами разочаровывает», — говорит Партик Саран, бывший сотрудник Google и создатель инструмента управления паролями нового поколения под названием Uno . Он также предлагает попытаться принять «философию нулевого доверия», когда дело доходит до публикации контента в социальных сетях, и подчеркивает эффективное общение со знакомыми, чтобы избежать мошенничества с дипфейками.

«Хотя искусственный интеллект может помочь в решении проблем цифровой безопасности, надежной системы безопасности не существует», — говорит Ярон Литвин, эксперт по цифровой безопасности и директор по маркетингу в Canopy . Одноименное приложение компании нацелено на защиту детей от сексуальных преступлений в Интернете, а также предлагает разнообразный набор родительского контроля. Литвин добавляет, что вам следует избегать публикации интимных или компрометирующих изображений, а также уменьшить частоту публикации даже обычных изображений.

Как вы можете обезопасить себя

Дипфейки ужасны, и трудно понять, какую травму они могут нанести человеку и членам его семьи. Но есть несколько способов, с помощью которых пользователи могут избежать попадания в ловушку или, по крайней мере, в значительной степени избежать ее.

Чтобы понять, какие шаги могут предпринять обычные пользователи смартфонов с типичными цифровыми навыками, я обратился к Эндрю Гарднеру, вице-президенту по исследованиям и инновациям в Gen Digital , компании-разработчике программного обеспечения, которая предлагает надежные инструменты безопасности, такие как Norton, Avast и Avira, среди прочих.

Гарднер говорит, что протоколы безопасности начинаются с фундаментального уровня. Пользователи должны начать с того, что сделать свои профили закрытыми или, по крайней мере, изменить настройки видимости сообщений, чтобы только люди, на которых они взаимно подписаны, могли видеть их сообщения и взаимодействовать с ними. Родительский контроль , который теперь доступен почти для каждой крупной платформы социальных сетей, должен быть включен тщательно, чтобы опекуны могли следить за любым подозрительным взаимодействием.

Общий совет состоит в том, что следует принимать запросы только от людей, которых они знают, но дополнительный шаг может иметь большое значение. «Если вы работаете в сети, проверяйте последние сообщения и действия приглашенных, чтобы оценить, насколько они реальны», — говорит Гарднер, добавляя, что следует опасаться «аккаунтов с небольшим количеством друзей или общих друзей». Еще один важный совет, который должен дать руководитель Gen Digital, — это проверка и ограничение входа в социальные сети.

Пользователи часто посещают онлайн-сервисы, и, чтобы избежать хлопот с созданием учетной записи, они выбирают вариант входа в социальные сети. «Это дает приложениям доступ к личной информации, и в некоторых ситуациях эти приложения продают эту информацию третьим лицам», — говорит он. Скандал с Cambridge Analytica, связанный с Facebook, — отличный тому пример. Следует периодически проверять, какие приложения подключены к их учетным записям в социальных сетях, и, если это необходимо, их доступ должен быть отозван.

Дипфейки — это сложные преступления с использованием ИИ, но Гарднер предлагает пользователям по-прежнему придерживаться некоторых основных правил безопасности, таких как включение двухфакторной аутентификации, использование надежных паролей, включение биометрических паролей и избегание любых подозрительных или неизвестных ссылок.

Социальные сети сделаны безопасно и ответственно

Литвин из Canopy считает, что чем больше вы делитесь, тем легче становится создавать убедительные дипфейки. Нет недостатка в теневых моделях генерации изображений ИИ без каких-либо ограничений на создание явного материала. Эти инструменты полагаются на входные изображения для обучения модели. Чем больше тренировочных данных передается, тем точнее и реалистичнее становятся дипфейки.

Это стандартная тактика, применяемая основными генераторами изображений ИИ, такими как MidJourney . Если ваша социальная лента открыта и содержит достаточное количество фотографий и видео, ничто не помешает злоумышленнику очистить их и создать компрометирующие дипфейки. Но если вы относитесь к тем людям, которые видят ценность в социальных сетях как в месте, где можно сохранить самые дорогие воспоминания, вы должны принять несколько мер.

«Будьте осторожны с тем, какую личную информацию вы публикуете в Интернете, настройте параметры конфиденциальности в своих учетных записях, включите двухфакторную аутентификацию и внимательно проверяйте изображения на предмет любых дефектов», — отмечает Бойд Клевис , эксперт по кибербезопасности в Совете безопасности Forbes и автор книги «Through». Брандмауэр: алхимия превращения кризиса в возможность».

Но как надежно обнаружить профиль в социальной сети, за которым, вероятно, стоит злоумышленник, занимающийся теневыми действиями, такими как создание и распространение дипфейков? «Если из подозрительных профилей публикуются видео- или аудиоматериалы, а аккаунты не содержат никакой личной информации или фотографий, вполне вероятно, что профиль является поддельным», — полагает Томас Самулис, архитектор информационной безопасности в Baltic Amadeus. Он предполагает, что такие профили, в которых отсутствует личная информация, создаются специально для распространения фейков и другой противоречивой информации».

Что делать, если вас обманули

Но среднестатистический пользователь смартфона может принять не так много мер предосторожности. Даже самые опытные в цифровых технологиях пользователи оказываются жертвами киберпреступлений, даже после использования всех стандартных инструментов, таких как двухфакторная аутентификация, частные профили и биометрические брандмауэры.

Если, несмотря на все меры предосторожности, вы все же оказались в центре дипфейкового преступления, обратитесь за советом и помощью к специалистам, а не берите дело в свои руки. Эксперты отмечают, что сидение на таких домогательствах или попытки незаметно справиться с ними самостоятельно часто ухудшают положение жертв.

«Если вы обнаружите, что кто-то злоупотребляет вашим контентом, обратитесь за помощью к юристу, знакомому с законом об авторском праве, который поможет вам удалить контент как можно быстрее», — говорит Роб Скотт, член Коллегии адвокатов Далласа и лицензированный эксперт по правовым вопросам в таких областях, как кибербезопасность. риск и конфиденциальность данных.

Консультация с экспертом по правовым вопросам имеет решающее значение, потому что он может помочь вам в ваших цифровых правах. Литвин из Canopy также предлагает сохранить все доказательства, советуя жертвам «документировать любые доказательства попыток вымогательства, такие как сообщения, электронные письма или любые формы связи, связанные с вымогательство».

Еще один важный совет заключается в том, что жертва должна немедленно прекратить все контакты с преступником, потому что преступник может еще больше манипулировать ею или беспокоить ее более серьезными требованиями вымогательства. В то же время пользователям следует связаться с экспертом по кибербезопасности или позвонить по одной из государственных линий помощи по борьбе с киберпреступностью, чтобы вовремя принять правильные меры.

Как распознать дипфейки

Поскольку механизмы искусственного интеллекта становятся все более изощренными, создаваемые ими дипфейки становятся устрашающе реальными и их трудно обнаружить. Тем не менее, есть еще несколько маркеров, на которые пользователи могут обратить внимание, чтобы обнаружить синтетически измененный или созданный искусственным интеллектом компрометирующий материал.

Ниже приводится подборка идентификаторов дипфейков, которые могут предложить эксперты:

• Обратите внимание на неестественные движения глаз. Если кажется, что глаза человека не моргают, движение глаз отключено или выражение лица не синхронизировано со словами, которые он говорит, скорее всего, это дипфейк. Отсутствие эмоций или бессвязные эмоции — явный признак того, что средства массовой информации претерпели цифровую трансформацию.
• «Технология дипфейка обычно фокусируется на чертах лица, — говорит Гарднер. «Если форма тела человека не кажется естественной или если его движения резкие и бессвязные, видео, скорее всего, является дипфейком».
• Еще одним надежным маркером является фон, который может казаться неестественно размытым или иметь странные визуальные артефакты. Еще один простой способ распознать дипфейки — искать аномальное обесцвечивание или серьезное несоответствие цветов, особенно в отношении лиц и теней предметов вокруг.
• Если вы сталкиваетесь с фотографией, на которой человек раскачивает «идеальные волосы», и вы не можете заметить каких-либо отдельных элементов, таких как несколько развевающихся прядей или вьющиеся волосы, будьте осторожны. Также известно, что модели ИИ борются с зубами. Ищите зубы, которые либо неестественно совершенны, либо у которых отсутствуют очертания отдельных зубов, или, может быть, больше зубов, чем в обычном человеческом протезе.
• Смещенные части тела, размытые края, несколько лишних или меньше пальцев, странно искривленные конечности, несинхронные движения частей тела и голос без пауз и эмоциональных перерывов — это другие признаки, на которые следует обратить внимание. «Фальшивый голос или аудиозаписи часто имеют фоновый шум, голоса роботов и странное произношение», — объясняет Самулис.

Серьезная проблема с полуэффективными решениями

Как объяснялось выше, не существует надежной системы защиты от дипфейков. Но если вы внимательно относитесь к тому, где вы делитесь фотографиями, кто может их видеть и как далеко простирается ваш доступ к социальным сетям, вы можете оставаться в относительно безопасной зоне.

Также следует обращать внимание на то, кто их друзья в сети, а также проверять действия новых приглашенных, прежде чем добавлять их в свой круг друзей в социальных сетях. Что касается дипфейков, это немного сложно. Но если сохранять бдительность и уделять время оценке несоответствий в подозрительном фото или видео, дипфейки можно обнаружить с достаточно высокой степенью точности.

В конце концов, все дело в воспитании гигиенических привычек в Интернете и сохранении бдительности в онлайн-пространстве, которое становится все более подверженным подделкам.