Всего за несколько минут было раскрыто более миллиона строк истории чата DeepSeek.

Исследователи кибербезопасности из Wiz обнаружили базу данных ClickHouse, принадлежащую китайскому стартапу в области искусственного интеллекта DeepSeek, содержащую более миллиона строк истории чатов и конфиденциальную информацию. База данных была общедоступной и позволяла исследователям полностью контролировать операции с базой данных.

Разоблачение было быстро обеспечено после того, как Wiz поделился своим открытием с DeepSeek, но вполне возможно, что информация уже могла быть раскрыта. Исследования такого рода не слишком углубляются в обнаруженные базы данных по этическим соображениям, но Wiz пришел к выводу, что злоумышленник потенциально может повысить свои привилегии в среде DeepSeek и получить конфиденциальные журналы, сообщения чата, пароли и локальные файлы — и все это без каких-либо усилий. требуется какая-либо аутентификация.

Wiz нацелился на стартап из-за недавнего шума в СМИ вокруг его модели рассуждения R1 с целью оценки его внешней безопасности. Несколько шокировало то, что база данных ClickHouse появилась всего через несколько минут базового поиска, и Wiz смог взаимодействовать с ней через HTTP-интерфейс ClickHouses.

После этого все, что нужно было сделать исследователям, — это запустить ПОКАЗАТЬ ТАБЛИЦЫ; запрос, и появился список доступных наборов данных, включая таблицу «log_steam», содержащую множество строк конфиденциальной информации.

В своем отчете Wiz предупреждает о скорости внедрения ИИ и о том, как необходимость как можно быстрее разрабатывать, выпускать и интегрировать продукты ИИ может привести к опасным практикам обеспечения безопасности. Учитывая все важные и конфиденциальные данные, которые сейчас обрабатывают программы искусственного интеллекта, отрасли необходимо внедрить надежные методы обеспечения безопасности, соответствующие тем, которые используются поставщиками общедоступных облаков и крупными поставщиками инфраструктуры.