Microsoft превращает инструмент оценки безопасности противодействия искусственному интеллекту с открытым исходным кодом
Microsoft превратила свой инструмент оценки рисков безопасности AI, Counterfit, в открытый исходный код, что позволяет любому начать использовать этот инструмент бесплатно. В настоящее время организации могут использовать Counterfit для автоматизации оценки рисков безопасности, обеспечивая максимальную защиту, которую они используют.
Microsoft выпускает Counterfit как инструмент с открытым исходным кодом
Изначально Microsoft разработала Counterfit как внутренний инструмент, позволяющий быстро оценивать безопасность систем искусственного интеллекта и машинного обучения. Сначала он представлял собой набор сценариев, а затем быстро превратился в универсальную автоматизацию ИИ, которую оператор может использовать для одновременной «атаки на несколько систем ИИ».
Microsoft теперь регулярно использует Counterfit в качестве основного инструмента в своей красной команде AI. Поскольку Counterfit не зависит от среды, модели и данных, инструмент может обеспечить точную оценку без сопротивления.
Сам инструмент предназначен для использования профессионалами в области безопасности. Counterfit использует рабочие процессы, аналогичные другим популярным инструментам красной команды, таким как Metasploit или PowerShell Empyre, с обширной поддержкой сценариев, предварительно загруженными алгоритмами атак, сканированием уязвимостей, расширенным ведением журнала и т. Д., Доступ к которым осуществляется через командную строку.
Microsoft также активно работала со специалистами по безопасности и крупными организациями, чтобы улучшить Counterfit. В блоге Microsoft Security Матильда Роуд, старший исследователь кибербезопасности, Airbus, сказала:
ИИ все чаще используется в промышленности; Очень важно позаботиться о защите этой технологии, особенно для того, чтобы понять, где в проблемной области могут быть реализованы атаки пространства функций. Выпуск инструментов с открытым исходным кодом от такой организации, как Microsoft, для специалистов-практиков по безопасности для оценки безопасности систем искусственного интеллекта приветствуется и является четким свидетельством того, что отрасль серьезно относится к этой проблеме.
Вы можете найти Microsoft Counterfit с открытым исходным кодом на их официальном GitHub.
Почему контрфит полезен?
Даже для компании размером с Microsoft провести эффективную оценку безопасности непросто, особенно когда эти компании являются огромными лидерами из списка Fortune 500, правительствами, некоммерческими организациями и т. Д. Предыдущее исследование Microsoft показало, что большое количество предприятий не могут точно протестировать свои системы искусственного интеллекта.
Мы обнаружили, что 25 из 28 компаний указали, что у них нет нужных инструментов для защиты своих систем искусственного интеллекта, и что специалисты по безопасности нуждаются в конкретных рекомендациях в этой области.
Counterfit упрощает выполнение этих оценок, автоматизируя процесс анализа и тестирования.
Кроме того, в недавно опубликованном исследовании Gartner внедрение безопасности ИИ названо одной из наиболее важных мер безопасности, которые компания может предпринять для улучшения защиты. В том же исследовании отмечалось, что «к 2024 году организации, внедряющие специальные средства управления рисками, связанные с ИИ, будут успешно избегать негативных последствий ИИ в два раза чаще, чем те, которые этого не делают».
Короче говоря, превращение Counterfit в инструмент оценки безопасности ИИ с открытым исходным кодом должно помочь сделать мир немного безопаснее.