Отлично, теперь хакеры используют ChatGPT для создания вредоносных программ

Дядя Влад

В саге ChatGPT появилась новая угроза: киберпреступники разработали способ взломать чат-бота с искусственным интеллектом и завалить его вредоносными командами.

Исследовательская фирма Checkpoint обнаружила, что хакеры разработали ботов, которые могут проникать в API GPT-3 OpenAI и изменять его код, чтобы он мог генерировать вредоносный контент, например текст, который можно использовать для фишинговых электронных писем и сценариев вредоносных программ.

Скриншот Counterpoint бизнес-модели Telegram-канала на основе OpenAI API.

Боты работают через мессенджер Telegram. По данным Ars Technica , злоумышленники используют ботов для создания темной версии ChatGPT без ограничений.

ChatGPT имеет кнопки «палец вверх» и «палец вниз», которые вы можете нажимать в рамках алгоритма обучения, если он генерирует контент, который может быть сочтен оскорбительным или неуместным. Обычно входные данные, такие как создание вредоносного кода или фишинговые электронные письма, запрещены, а ChatGPT отказывается давать ответ.

Эта гнусная альтернатива чат-боту стоит 6 долларов за каждые 100 запросов, а хакеры, стоящие за ней, также дают советы и примеры плохого контента, который вы можете создать с помощью этой версии. Хакеры также разместили скрипт на GitHub. Скрипт на основе OpenAI, основанный на API, позволяет пользователям подделывать компанию или человека, а также генерировать фишинговые электронные письма с помощью команд генерации текста. По словам PC Gamer , боты также могут помочь вам в идеальном размещении фишинговой ссылки в электронном письме.

Трудно понять, насколько эта разработка будет угрожать генераторам текста ИИ в будущем, особенно с учетом того, что крупные компании уже привержены работе с этой все более популярной технологией. Microsoft Bing собирается вскоре добавить поддержку ChatGPT в свой браузер в предстоящем обновлении, например, в рамках продолжающегося сотрудничества с OpenAI.

Хотя ChatGPT остается бесплатным в обозримом будущем, за вычетом приоритетной подписки ChatGPT Plus , это не первый случай, когда генератор текста AI становится мишенью мошенников. В январе появились новости о том, что тысячи людей были обмануты после оплаты мобильных версий чат-бота для iOS и Android, который в настоящее время является браузерным сервисом.

Версия для Apple App Store была особенно популярна, несмотря на недельную подписку в размере 8 долларов после трехдневного пробного периода. У пользователей также была возможность оплатить ежемесячную подписку на 50 долларов, что, в частности, было даже дороже, чем недельная стоимость. В конечном итоге приложение было удалено из магазина Apple после того, как оно привлекло внимание средств массовой информации.

ChatGPT, безусловно, является главной целью для мошенников, поскольку его популярность резко возросла, но еще неизвестно, воспользуются ли злоумышленники одной из многочисленных циркулирующих альтернатив ChatGPT .