Прекратите использовать инструменты генеративного ИИ, такие как ChatGPT, Samsung заказывает персонал

Как сообщило в понедельник агентство Bloomberg , Samsung призвала сотрудников прекратить использование инструментов генеративного искусственного интеллекта, таких как ChatGPT и Bard , из-за опасений, что они представляют угрозу безопасности.

Этот шаг следует за чередой досадных промахов в прошлом месяце, когда сотрудники Samsung, как сообщается, трижды передавали конфиденциальные данные, связанные с полупроводниками, в ChatGPT.

ChatGPT, как и другие инструменты генеративного ИИ, частично обучается на представленных данных, поэтому все, что Samsung вводит в него, может оказаться в ответ на запрос, сделанный другим пользователем в любой точке мира, хотя разработчик ChatGPT OpenAI недавно добавил режим инкогнито, который позволяет пользователям блокировать ввод своих данных для обучения модели ИИ. Сам OpenAI также может видеть данные, просматривая разговоры, чтобы улучшить свои системы и убедиться, что контент соответствует его политикам и требованиям безопасности.

В служебной записке, с которой ознакомился Bloomberg, Samsung приказала сотрудникам воздерживаться от использования этой технологии на принадлежащих компании компьютерах, планшетах и ​​телефонах, а также во внутренних сетях, предупредив, что данные, передаваемые на платформы генеративного ИИ, могут в конечном итоге найти свой путь. людям вне компании.

«Интерес к генеративным платформам искусственного интеллекта, таким как ChatGPT, растет как внутри компании, так и за ее пределами», — говорится в служебной записке Samsung. «Хотя этот интерес сосредоточен на полезности и эффективности этих платформ, также растет обеспокоенность по поводу рисков безопасности, связанных с генеративным ИИ».

Он добавил, что работники, которые не соблюдают правила безопасности, могут быть привлечены к дисциплинарной ответственности «вплоть до увольнения».

В служебной записке говорится, что Samsung в настоящее время «пересматривает меры безопасности для создания безопасной среды для безопасного использования генеративного ИИ для повышения производительности и эффективности сотрудников», но говорится, что до тех пор, пока меры не будут согласованы, компания «временно ограничивает использование генеративный ИИ».

Сообщается, что в рамках усилий по безопасной интеграции инструментов искусственного интеллекта на своем рабочем месте Samsung разрабатывает собственную платформу искусственного интеллекта для перевода, обобщения документов и разработки программного обеспечения.

Как отмечает Bloomberg, Samsung является последней крупной компанией, выступившей против технологии из соображений безопасности, и такие банки, как JPMorgan Chase & Co., Bank of America Corp. и Citigroup Inc., решили запретить или, по крайней мере, ограничить ее использование в рабочее место.

Действительно, технология искусственного интеллекта развивается такими быстрыми темпами, что многие компании были застигнуты врасплох ее появлением, в результате чего многим приходится поспешно оценивать, как внедрить ее — или даже ограничить — в рабочей среде.