ChatGPT только что создал вредоносное ПО, и это серьезно пугает

Сообщается, что самопровозглашенный новичок создал мощное вредоносное ПО для интеллектуального анализа данных, используя только запросы ChatGPT , и все это в течение нескольких часов.

Аарон Малгрю, исследователь безопасности Forcepoint, недавно поделился тем, как он создал вредоносное ПО нулевого дня исключительно с помощью генеративного чат-бота OpenAI . В то время как OpenAI имеет защиту от любого, кто пытается попросить ChatGPT написать вредоносный код, Малгрю нашел лазейку , предложив чат-боту создавать отдельные строки вредоносного кода, функция за функцией.

После компиляции отдельных функций Малгрю своими руками создал практически незаметный исполняемый файл для кражи данных. И это было не просто вредоносное ПО для сада — это вредоносное ПО было столь же изощренным, как и любые национальные атаки, способным обойти всех поставщиков, основанных на обнаружении.

Не менее важно и то, что вредоносное ПО Mulgrew отличается от «обычных» национальных итераций тем, что для его создания не требуются группы хакеров (и часть времени и ресурсов). Малгрю, который сам ничего не программировал, подготовил исполняемый файл всего за несколько часов, а не недель, как обычно.

Вредоносная программа Mulgrew (приятно звучит, не так ли?) маскируется под приложение-заставку (расширение SCR), которое затем автоматически запускается в Windows. Затем программное обеспечение просматривает файлы (такие как изображения, документы Word и PDF-файлы) для кражи данных. Впечатляет то, что вредоносное ПО (посредством стеганографии) разбивает украденные данные на более мелкие части и скрывает их в изображениях на компьютере. Затем эти изображения загружаются в папку Google Диска, что позволяет избежать обнаружения.

Не менее впечатляющим является то, что Малгрю смог усовершенствовать и усилить свой код для защиты от обнаружения с помощью простых подсказок в ChatGPT, что действительно подняло вопрос о том, насколько безопасно использовать ChatGPT . При выполнении первых тестов VirusTotal вредоносное ПО было обнаружено пятью из 69 продуктов обнаружения. Более поздняя версия его кода впоследствии не была обнаружена ни одним из продуктов.

Обратите внимание, что вредоносное ПО, созданное Малгрю, было тестовым и не является общедоступным. Тем не менее, его исследование показало, как легко пользователи, практически не имеющие опыта программирования, могут обойти слабую защиту ChatGPT и легко создавать опасные вредоносные программы, даже не вводя ни одной строки кода.

Но вот что самое страшное во всем этом: такой код обычно компилируется большой командой неделями. Мы не удивимся, если гнусные хакеры уже разрабатывают аналогичные вредоносные программы через ChatGPT, как мы говорим.