Популярные умные очки с искусственным интеллектом превратились в новую «скрытую камеру и артефакт из человеческой плоти».

Google Glass, представленные на конференции Google I/O в 2012 году, известны как самый неудачный продукт в истории Google, но они также оставили след в истории технологий.

Есть много причин, почему это не удалось, и одной из них является угроза конфиденциальности.

Легко попросить Google Glass сделать снимок, использовать голосовые команды или нажать и удерживать кнопку сверху, но здесь нет ярких знаков, таких как светодиоды, которые напоминали бы другим, что они находятся в режиме съемки.

Поэтому с точки зрения прохожих Google Glass — это неэтичное «устройство со скрытой камерой». Некоторых пользователей даже выгоняли охранники в кинотеатрах.

Сегодня подобные вещи продолжают происходить, и даже становятся хуже — очки ИИ могут распознавать вашу личную информацию только потому, что вы еще раз посмотрите на себя в толпе.

Лицо, очки, встреча с незнакомцем.

Тебя зовут Ли? Вы окончили колледж округа Берген? Твое корейское имя Джу-ун? Вы живете в Атланте? Мы встретились в Кембриджском общественном фонде? Твои родители Джон и Сьюзен?

Если бы к вам подошел кто-то на улице, и вы никогда с ним не встречались, но он, казалось бы, знал вас, с энтузиазмом назвал ваше имя и сообщил вам одну или две личные данные, как бы вы отреагировали?

Два студента Гарварда, Ань Фу Нгуен и Кейн Ардайфио, провели такой эксперимент.

Надев умные очки Meta Ray-Ban, они случайным образом опознали десятки незнакомцев в кампусе, в метро и т. д. Сфотографируйте кого-нибудь, и через несколько секунд его информация появится на вашем телефоне.

Вот только сами умные очки не могут добиться эффекта от такой программы. В них внесены некоторые технические изменения, но принцип не сложный.

Сначала видео передается в Instagram в режиме реального времени через функцию прямой трансляции умных очков Meta, а затем используется компьютерная программа для мониторинга видеопотока и использования искусственного интеллекта для распознавания лиц.

Затем в Интернете ищутся дополнительные фотографии определенного человека, а его имя, адрес, номер телефона и даже относительная информация находятся в общедоступных базах данных.

Наконец, информация отправляется в мобильное приложение, которое они написали для удобного просмотра. Все готово, кроме случайного пугания прохожего.

Для разработки два студента объединили различные существующие и зрелые технологии, включая генеративный искусственный интеллект.

• Умные очки: Умные очки, оснащенные камерами для захвата изображений лиц в общественных местах.
• Обратное распознавание лиц: сопоставляйте изображения лиц с общедоступными изображениями в Интернете с помощью систем поиска лиц, таких как PimEyes, и возвращайте веб-ссылки на эти изображения.
• Инструмент сканирования: используйте инструмент сканирования FireCrawl для сканирования необходимых данных по этим веб-ссылкам.
• Большие языковые модели. Большие языковые модели выводят такие детали, как имена, профессии и т. д., на основе собранных и беспорядочных данных.
• Базы данных. Введите имя на таких сайтах, как FastPeopleSearch, чтобы найти личную информацию, такую ​​как домашние адреса, номера телефонов и имена родственников, в общедоступных записях и социальных сетях.

Среди них большая языковая модель играет очень тонкую роль. Она может понимать, обрабатывать и компилировать большие объемы информации из разных источников. Например, она может связывать одно и то же имя в разных статьях, определять чью-либо личность посредством контекстуальной логики и т. д. и пусть данные. Процесс извлечения автоматизирован.

Что касается способности к рассуждению больших языковых моделей, мы ранее сообщали об интересном исследовании. Заинтересованные друзья могут просмотреть эту статью: «Чат с GPT-4, новый способ утечки конфиденциальности» .

Утечки конфиденциальной информации — обычное дело, распознавание лиц — не новость, а проблема секретной фотографии возникает не каждый день или два. За последние два года крупные модели стали инструментом повышения производительности, без которого многие люди не могут жить.

Однако химическая реакция прочного союза между ними все же привела к очень пугающему результату – просто при случайных встречах на улице наша личная информация может быть извлечена кем-то с сердцем.

Два студента не раскрыли технические детали внешнему миру. Целью этого эксперимента было напомнить людям о необходимости сохранять бдительность.

Так как же мы можем защитить себя? В качестве ответа они предлагают удалить свои данные из таких источников данных, как поисковые системы по лицам, но трудно сказать, является ли это полным или нет.

Хотя я вам напомнил, вы можете не знать, что вас тайно фотографировали.

Кто-то тогда пошутил, что Google Glass лучше всего помогает принцу Чарльзу из британской королевской семьи запоминать имена каждого человека.

Возможно, с помощью умных очков, поддерживающих распознавание лиц, мы возвестим мир без незнакомцев. Самым счастливым человеком может стать Ягами Юэ.

Вы спросите, а с базой данных и распознаванием лиц должна быть возможность делать секретные фотографии на мобильный телефон. Почему выбрали умные очки Meta Ray-Ban?

Причина проста: они похожи на обычные солнцезащитные очки. Они не такие киберпанковые, как Google Glass. Они более удобны для секретных фотографий, а очки подходят для записи, без помощи рук и просмотра того, что вы видите.

Meta Ray-Ban не лишен напоминаний. Он имеет светодиодный индикатор, когда пользователь записывает видео, он автоматически включается, чтобы напомнить прохожим. Но это лучше, чем ничего.

Предыдущий обзор The Verge показал, что светодиод Meta Ray-Ban и звук затвора не заметны при ярком освещении на открытом воздухе. В многолюдных и шумных общественных местах многие люди склонны не замечать таких деталей.

Когда ваши руки лежат на кнопках заушников, окружающие могут подумать, что вы просто держите очки.

Поэтому нетрудно понять, что конфиденциальность всегда была в центре внимания умных очков. Когда некоторое время назад были выпущены первые AR-очки Orion от Meta, некоторые люди беспокоились о том, повторят ли они ошибки Google Glass.

Мета также подчеркнула «как ответственно носить умные очки» в политике конфиденциальности Meta Ray-Ban и написала множество теплых напоминаний.

Однако все необязательно, уважаете ли вы других или используете свой голос или жесты, чтобы напоминать другим перед съемкой или прямым эфиром, все зависит от вашего собственного сознания.

Не говоря уже о том, что форма очков более удобна для откровенной фотографии. На самом деле технологические компании могут напрямую разрабатывать умные очки, поддерживающие распознавание лиц. Препятствием является не сама технология.

В 2021 году зарубежные СМИ сообщили, что Meta рассматривала возможность встраивания в умные очки функции распознавания лиц. Тогда же технический директор Meta Эндрю Босворт также привел пример того, что такие умные очки могут помочь пользователям, которые не видят лица или не могут вспомнить свои имена, узнавать кого-то на званом обеде.

Кроме того, стартап по распознаванию лиц Clearview AI разработал собственные AR-очки и приложения, которые, по его утверждению, могут подключаться к базе данных из 30 миллиардов лиц, но они не продаются публично.

В определенной степени то, как использовать распознавание лиц и как предотвратить секретные фотографии, ограничено законом и моралью.

Например, технология распознавания лиц Facebook однажды позволила пользователям отмечать друзей на фотографиях. Вопросы о конфиденциальности, естественно, были неизбежны. В 2015 году по коллективному иску Facebook выплатил компенсацию в размере 650 миллионов долларов США.

В 2021 году Facebook объявил, что прекратит использовать технологию распознавания лиц для идентификации людей на фотографиях и видео и удалит соответствующие данные более чем 1 миллиарда человек.

Распознавание лиц, какое клише. Но самая обыденная технология из-за своей зрелости, популярности и широкого применения заставляет людей чувствовать, что они столкнулись с грозным врагом.

Перед лицом ИИ секретов становится все меньше и меньше

В экспериментах студентов Гарварда роль больших языковых моделей заключается в помощи в обработке данных, но сейчас, используя различные продукты генеративного ИИ, мы часто активно предоставляем собственные данные.

Потому что во многих случаях плата за конфиденциальность является обязательной при использовании услуг, таких как передача вашего лица программному обеспечению P-Picture с искусственным интеллектом, меняющим лицо.

Более того, не только лица, но и аппаратное и программное обеспечение искусственного интеллекта все больше подчеркивают концепцию персональных данных.

Например, используйте продукт для записи AI, чтобы легко записывать свой день, раскрывать свой распорядок дня и хобби в дневнике AI или просто позволить ChatGPT запомнить, кто мы, с помощью функции памяти.

Постепенно ИИ будет лучше вас понимать, анализировать, систематизировать информацию вокруг вас, придавать вам большую эмоциональную ценность и компенсировать ограниченные возможности вашего мозга.

В то же время в этих продуктах также делается упор на конфиденциальность и безопасность. Они либо говорят, что ваши данные принадлежат вам, и не будут использовать ваши данные для обучения моделей, либо используют конечные модели, которые работают локально, или частные облака, что повышает эффективность. риск утечки конфиденциальной информации низкий.

Конфиденциальность и удобство трудно обеспечить одновременно. Когда мы наслаждаемся развлечением и персонализацией различных продуктов искусственного интеллекта, нас также сопровождают риски.

Точно так же, как электронный мозг в «Призраке в доспехах», люди напрямую подключают свой мозг к Интернету или соединяют свои мозги между собой. Они могут быстро общаться друг с другом, но существует также риск вторжения в мозг, и даже воспоминания могут. быть подделанным.

Конечно, утечка конфиденциальной информации может быть похожа на распознавание лиц. Это скучная и неоригинальная тема. Вы сливаете, я сливаю, и он тоже. Типа, это не имеет значения, это все равно.

Но если кто-то подойдет к вам в «солнечных очках» и назовет ваше имя, эта сцена все равно будет очень впечатляющей, не так ли?

Возможно, еще большее беспокойство вызывает невидимая власть над информацией, которую те, кто обладает технологиями и инструментами, сначала используют над другими ничего не подозревающими людьми.

После появления смартфонов также появились короткие видеоролики и прямые трансляции с вертикальным экраном. Мы все больше привыкли снимать и фотографироваться. Мы – невинный фон, или, другими словами, нам все равно, и мы не можем это заметить.

В настоящее время мы — капля воды в огромном океане, но в будущем эта капля воды может быть сфокусирована искусственным интеллектом за линзой, а затем преломлена в более конкретный вид.

# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo