Губернатор Калифорнии наложил вето на законопроект о безопасности искусственного интеллекта

Губернатор Калифорнии Гэвин Ньюсом наложил вето на SB 1047, Закон о безопасных и надежных инновациях для пограничных искусственных моделей, утверждая в письме законодателям , что он «устанавливает нормативную базу, которая может дать общественности ложное чувство безопасности в отношении контроля над этим быстро меняющимся процессом». технологии».

«Я не считаю, что это лучший подход к защите населения от реальных угроз, исходящих от технологий», — написал он. SB 1047 потребовал бы, чтобы «разработчик, прежде чем приступить к первоначальному обучению обслуживаемой модели… выполнил различные требования, включая реализацию возможности быстрого выполнения полного отключения… и внедрил письменный и отдельный протокол безопасности».

Однако Ньюсом отметил, что 32 из 50 крупнейших компаний в области ИИ базируются в Калифорнии, и что законопроект будет ориентирован только на крупнейшие фирмы. «Меньшие специализированные модели могут оказаться столь же или даже более опасными, чем модели, на которые нацелен SB 1047», — заявил он.

«Несмотря на благие намерения, SB 1047 не принимает во внимание, развернута ли система искусственного интеллекта в средах высокого риска, предполагает ли она принятие важных решений или использование конфиденциальных данных», — написал Ньюсом. «Вместо этого законопроект применяет строгие стандарты даже к самым базовым функциям – при условии, что их использует крупная система».

Законопроект SB 1047 вызвал бурные дебаты в индустрии искусственного интеллекта, когда прошел через законодательный орган. OpenAI резко выступила против этой меры, в результате чего исследователи Уильям Сондерс и Дэниел Кокотайло публично подали в отставку в знак протеста , а генеральный директор xAI Илон Маск выступил в поддержку законопроекта . Многие в Голливуде также выразили поддержку SB 1047 , в том числе Джей Джей Абрамс, Джейн Фонда, Педро Паскаль, Шонда Раймс и Марк Хэмилл.

«Мы не можем позволить себе ждать, пока произойдет крупная катастрофа, прежде чем предпринимать действия по защите населения. Калифорния не откажется от своей ответственности. Должны быть приняты протоколы безопасности. Должны быть реализованы упреждающие меры защиты, а серьезные последствия для злоумышленников должны быть ясными и осуществимыми», — написал Ньюсом. Однако «в конечном итоге любая основа для
эффективное регулирование искусственного интеллекта должно идти в ногу с самой технологией».

Объявление, сделанное в понедельник, было сделано менее чем через месяц после того, как губернатор подписал AB 2602 и AB 1836, оба поддержаны профсоюзом SAG-AFTRA . AB 2602 требует от исполнителей предоставления информированного согласия перед использованием своих «цифровых копий», а AB 1836 усиливает защиту от копирования голоса и изображений умерших исполнителей.