Apple не ответила на самый важный вопрос о своих функциях искусственного интеллекта
Вчера во время дебюта Apple Intelligence на WWDC 2024 старший вице-президент по разработке программного обеспечения Крейг Федериги неоднократно рекламировал безопасность новой функции и деликатную обработку конфиденциальных пользовательских данных. Чтобы защитить конфиденциальность пользователей, Apple Intelligence выполняет многие из своих генеративных операций на устройстве. А для тех, кто превышает свои встроенные возможности, система передаст работу недавно разработанному компанией Private Cloud Compute (PCC).
Однако, как задал вопрос в понедельник в теме д-р Мэтью Грин, доцент кафедры компьютерных наук Университета Джонса Хопкинса в Балтиморе, облако искусственного интеллекта Apple может быть безопасным, но заслуживает ли оно доверия?
Apple Intelligence обещает снабдить ваш iPhone, iPad и Mac передовыми генеративными моделями, которые смогут создавать изображения, редактировать текст и выполнять действия от вашего имени в любом количестве приложений. Устройства Apple уже несколько лет выполняют задачи машинного обучения на своем устройстве; Возьмем, к примеру, функцию поиска по фотопленке и оптическое распознавание текста (OCR). Однако, как отмечает Грин , даже процессоры Apple последнего поколения пока недостаточно мощны для выполнения некоторых более сложных и ресурсоемких операций искусственного интеллекта, поступающих в онлайн, что требует использования серверов облачных вычислений.
Проблема в том, что этим сложным моделям также необходим незашифрованный доступ к данным пользователя для выполнения функций вывода, а передача этих данных в общедоступное облако подвергает их риску взлома, утечки или прямой кражи. Решением Apple было создание собственных автономных, защищенных центров обработки данных специально для обработки данных Apple Intelligence: PCC. Эта «революционная система облачного интеллекта», согласно недавнему сообщению в блоге Apple Security , «переносит ведущую в отрасли безопасность и конфиденциальность устройств Apple в облако, гарантируя, что личные данные пользователя, отправленные в PCC, не будут доступны никому, кроме пользователь — даже не Apple».
Проблема в том, что, хотя современное «нейронное» оборудование телефонов совершенствуется, оно совершенствуется недостаточно быстро, чтобы воспользоваться всеми сумасшедшими функциями, которые Кремниевая долина хочет от современного искусственного интеллекта, включая генеративный искусственный интеллект и ему подобные. Для этого принципиально требуются серверы. 3/
— Мэтью Грин (@matthew_d_green) 10 июня 2024 г.
Но на практике обеспечить конфиденциальность гораздо сложнее. «Создание надежных компьютеров — это буквально самая сложная проблема в компьютерной безопасности», — написал Грин. «Честно говоря, это чуть ли не единственная проблема в компьютерной безопасности». Он похвалил компанию за применение многих из тех же функций безопасности, встроенных в ее мобильные и настольные устройства, на свои новые серверы, включая безопасную загрузку, программное обеспечение без сохранения состояния и процессор Secure Enclave (SEP), а также «выброс всех видов процессы на серверном оборудовании, чтобы убедиться, что оборудование не подвергается несанкционированному вмешательству».
Apple приложила все усилия, чтобы гарантировать, что программное обеспечение, работающее на ее серверах, является законным, автоматически удаляя все пользовательские данные с узла PCC, как только запрос был завершен, и позволяя операционной системе устройства «подтверждать», какой это образ программного обеспечения. бег.
«Если бы вы дали отличной команде огромную кучу денег и сказали им построить лучшее «частное» облако в мире, это, вероятно, выглядело бы так», — написал Грин. «А теперь трудные вопросы. Это хорошая идея? Является ли это так же безопасно, как то, что делает Apple сегодня?», и могут ли пользователи отказаться? Похоже, что пользователи даже не согласятся на новую услугу. «Вам даже не обязательно скажут, что это происходит», — продолжил он. «Это просто произойдет. Волшебно. Мне не нравится эта часть».
Грин продолжает утверждать, что хакеры даже не представляют наибольшую угрозу для пользовательских данных: это сами компании, производящие аппаратное и программное обеспечение. Таким образом, «эта система PCC представляет собой реальное обязательство Apple не «подсматривать» за вашими данными», — заключил Грин. «Это большое дело».
Сообщается, что внедрение Apple Intelligence начнется позднее этим летом. А в ближайшие недели Apple планирует пригласить исследователей в области безопасности, чтобы они впервые ознакомились с программным обеспечением PCC и виртуальной исследовательской средой.