Google отвечает на заявления о том, что Gemini читает ваши файлы

Дядя Влад

Обновление : в нижней части сообщения добавлен ответ Google на ветку Бэнкстона.

В конце прошлой недели было сделано тревожное открытие , которое ставит под сомнение то, что могут и не могут видеть все Google Gemini . Кевин Бэнкстон, старший советник по управлению ИИ в Центре демократии и технологий, обнаружил, что Gemini может автоматически суммировать свои частные налоговые декларации, которые он просматривал в Google Docs, и публиковал свои выводы на X.

Это то, что теоретически ИИ-помощник не должен делать без явного разрешения пользователя. Его поиск настроек конфиденциальности, которые отключили бы это поведение, только привел к еще большему беспокойству о том, что и как поглощают системы генеративного ИИ.

Бэнкстон сначала потратил 15 минут, опрашивая ИИ, как добраться до необходимого меню настроек, но безуспешно. Система давала ему только информацию о том, как управлять историей чата Близнецов . Более того, ни одно из предложенных системой настроек на самом деле не решило проблему Бэнкстона, и когда он нашел возможность отключить обобщения в Google Workspace, это было совершенно в другом меню, чем то, что ему сказал Gemini. По мнению самого ИИ, эти настройки должны быть открыто доступны пользователям. Итак, учитывая, что это не так, Бэнкстон утверждает, что ИИ либо «галлюцинирует (лжет)», либо что-то на серверах Google не работает должным образом.

Хотя впоследствии его перенаправили на страницу обязательств конфиденциальности Gemini Workspace, он задался вопросом : «А что, если я все еще не хочу, чтобы она просматривала мои документы без подсказки?» Я не *просил* его суммировать мои налоги, он просто это сделал. От меня зависит, будут ли/какие частные документы подсказывать модель». Бэнкстон также отмечает, что пользователям необходимо платить за подписку AI Premium на сумму 20 долларов в месяц, чтобы получить расширенные обязательства в отношении защиты их личных данных.

Это не первый случай, когда продукты Google с искусственным интеллектом подвергаются утечке данных. В сентябре 2023 года предшественник Gemini, Бард, случайно обнаружил сеансы пользовательского чата в результатах общедоступного поиска. Google даже предупредил своих сотрудников о необходимости ввода конфиденциальных данных в своих чат-ботов, чтобы предотвратить непреднамеренную утечку. В июле прошлого года на компанию также подали в суд по обвинению в том, что сбор данных из общедоступного Интернета в целях обучения ИИ нарушает их права на конфиденциальность и собственность.

В конце концов Бэнкстону удалось устранить проблему и определить ее корень. «Похоже, что если вы когда-либо нажимали кнопку Gemini для определенного типа документа, то он остается открытым всякий раз, когда вы открываете другой документ того же типа, и, следовательно, автоматически поглощает и суммирует его», — написал он.

Итак, поскольку во время чата он суммировал другой PDF-файл с помощью Gemini, система, похоже, предоставила себе доступ ко всем PDF-файлам, открытым на протяжении сеанса. «То же самое и с GDocs — его не было ни в одном из моих документов», — также отметил он, — «потом я включил его в одном, и теперь он автоматически суммирует все, что я открываю».

Независимо от причин сбоя, такое поведение системы ИИ имеет серьезные последствия для конфиденциальности пользователей. Как утверждает Бэнкстон, «сколько людей невольно ввели еще столько личных документов в Gemini просто потому, что они один раз нажали на эту маленькую звездочку ИИ в одном документе?»

Хотя доступ к дополнительным документам, на основе которых можно уточнить ответы, поможет повысить производительность, это без прозрачности и разрешения владельцев контента только еще больше подорвет и без того слабое доверие общественности к ИИ.

Google не согласился со многими аспектами опыта Бэнкстона, в том числе с тем, что сбор данных вообще происходит. Представитель Google отметил, что содержимое открытого документа можно использовать для создания сводки в реальном времени, но только в том случае, если включена функция Gemini и что ни эта сводка, ни сам документ никак не сохраняются. Ниже приводится официальное заявление Google:

«Наши функции генеративного искусственного интеллекта созданы для того, чтобы предоставить пользователям выбор и держать их под контролем своих данных. Использование Gemini в Google Workspace требует, чтобы пользователь заранее включил его, и когда он это делает, его контент используется с соблюдением конфиденциальности для создания полезных ответов на его запросы, но не сохраняется иным образом без разрешения».