Три причины, по которым Facebook / Meta закрывает свою систему распознавания лиц

Meta, новая материнская компания Facebook, объявила во вторник, что Facebook откажется от своей системы распознавания лиц в ближайшие недели. Более трети постоянных пользователей Facebook пользуются функциями распознавания лиц, поэтому это изменение коснется ряда людей.

Если пользователи в настоящее время «включены» в настройку распознавания лиц, шаблоны, используемые для идентификации каждого пользователя, будут удалены. Также больше не будет автоматического распознавания лиц на фотографиях и видео. Еще одна область, на которую это повлияет, – это автоматический замещающий текст, или AAT, который используется для описания изображений слабовидящим или слепым людям. Как только система распознавания лиц исчезнет, ​​исчезнет и возможность идентифицировать каждого человека на фотографии с помощью распознавания лиц.

Учитывая преимущества распознавания лиц, почему Мета избавляется от него? В своем заявлении Джером Пезенти, вице-президент по искусственному интеллекту в Meta, цитирует «растущую обеспокоенность общества, особенно в связи с тем, что регулирующие органы еще не разработали четких правил».

Ниже мы обсудим три основные проблемы, вызывающие озабоченность.

Проблемы с конфиденциальностью

Facebook сохранил «отпечатки» сотен миллионов пользователей, и не все будут так счастливы по этому поводу. Не так давно Facebook урегулировал коллективный иск, который был подан в 2015 году в связи с проблемами конфиденциальности, связанными с функцией распознавания лиц и предложения тегов. В результате компания выплатила более полумиллиарда долларов. Он также остановил сбивающую с толку функцию «предложения тегов» и переименовал ее для ясности в «распознавание лиц», а также добавил четкий компонент выбора для переименованной технологии. Но даже с этими изменениями конфиденциальности система распознавания лиц, похоже, доставляет больше проблем, чем она того стоит – особенно сейчас, когда Meta занимает видное место в заголовках из-за своих сомнительных методов .

Проблемы точности и справедливости

Если вы смотрели какой-либо недавний документальный фильм о полицейских расследованиях, вы, вероятно, знаете, что полиция все больше полагается на социальные сети как на инструмент расследования, в том числе на распознавание лиц в Facebook. Многие активисты и защитники обеспокоены влиянием этого на равенство, справедливость и общую справедливость.

Конечно, распознавание лиц можно использовать для раскрытия преступлений. Но его также можно использовать для ложного обвинения, выявления мирных демонстрантов и в качестве инструмента для случайной или преднамеренной дискриминации (поскольку он, как известно, имеет проблемы с неточным распознаванием BIPOC – чернокожих коренных или цветных людей – отдельных лиц). Сан-Франциско запретил использование распознавания лиц местными агентствами в 2019 году, став первым крупным городом в США, который сделал это, как и штат Мэн . Европейский парламент также шумит по этому поводу, и мы все чаще наблюдаем протест против этой технологии как внутри страны, так и за ее пределами.

Нормативные вопросы

Facebook также столкнулся с нормативными проблемами, связанными с этой технологией. В 2018 году Центр электронной информации о конфиденциальности совместно с другими группами потребителей подал жалобу в Федеральную торговую комиссию (FTC) на технологию распознавания лиц Facebook. И, как все мы знаем, Facebook не новичок в FTC.

В своем сообщении в блоге Пезенти говорит: «Забегая вперед, мы по-прежнему рассматриваем технологию распознавания лиц как мощный инструмент, например, для людей, которым необходимо подтвердить свою личность или предотвратить мошенничество и выдачу себя за другое лицо. Мы считаем, что распознавание лиц может помочь в таких продуктах, обеспечивая конфиденциальность, прозрачность и контроль, поэтому вы сами решаете, использовать ли ваше лицо и как это делать. Мы продолжим работать над этими технологиями и привлекать внешних экспертов ».

Далее он поясняет: «Каждая новая технология приносит с собой как пользу, так и заботу, и мы хотим найти правильный баланс. Что касается распознавания лиц, его долгосрочную роль в обществе необходимо обсуждать открыто и среди тех, на кого оно больше всего повлияет. Мы продолжим участвовать в этом разговоре и работать с группами гражданского общества и регулирующими органами, которые возглавляют это обсуждение ».

Что мы теряем или приобретаем?

Большое и наиболее очевидное изменение заключается в том, что лица людей больше не будут распознаваться и автоматически отмечаться на фотографиях, видео и воспоминаниях, хотя ручное добавление тегов по-прежнему будет доступно и поощряться. Вы также больше не увидите предлагаемые теги. Возможно, самая заметная потеря для пользователей с ослабленным зрением, которые больше не будут получать имена людей на фотографиях с помощью автоматического замещающего текста, хотя технология продолжит работать для текста, несмотря на пропуск имен. Ничто из этого не является огромными потерями, даже вместе взятые, и шаблон распознавания лиц для тех, кто согласился, будет удален, а те, кто никогда не участвовал, не увидят никаких изменений.

Еще неизвестно, вернется ли распознавание лиц в Facebook, когда и как. Но в настоящее время многие пользователи будут чувствовать себя в большей безопасности с исчезнувшей технологией, в то время как другие потеряют некоторые ключевые функции и преимущества, которыми они пользуются.