Безопасен ли ChatGPT? Вот риски, которые следует учитывать перед его использованием

Те, кто видел ChatGPT в действии, знают, насколько удивительным может быть этот инструмент генеративного ИИ. И если вы еще не видели, как ChatGPT делает свое дело, приготовьтесь к тому, что вы будете взорваны! 

Нет никаких сомнений в мощности и производительности знаменитого чат-бота OpenAI, но действительно ли безопасно использовать ChatGPT? Хотя технологические лидеры во всем мире обеспокоены эволюционным развитием ИИ , эти глобальные проблемы не обязательно отражаются на индивидуальном опыте пользователей. С учетом вышесказанного, давайте более подробно рассмотрим ChatGPT, чтобы помочь вам отточить уровень комфорта.

Конфиденциальность и финансовые утечки

По крайней мере в одном случае история чата между пользователями была перепутана. 20 марта 2023 года создатель ChatGPT OpenAI обнаружил проблему, и ChatGPT не работал на несколько часов . Примерно в то же время некоторые пользователи ChatGPT видели историю разговоров других людей вместо своей собственной. Возможно, еще большее беспокойство вызвало известие о том, что информация, связанная с платежами, от подписчиков ChatGPT-Plus могла также утечь.

OpenAI опубликовала отчет об инциденте и исправила ошибку, вызвавшую проблему. Это не означает, что в будущем не возникнет новых проблем. Для любого онлайн-сервиса существует риск подобных случайных утечек и нарушений кибербезопасности со стороны растущей армии хакеров.

Политика конфиденциальности OpenAI

Согласно политике конфиденциальности OpenAI, ваши контактные данные, история транзакций, сетевая активность, контент, местоположение и учетные данные для входа могут быть переданы аффилированным лицам, поставщикам и поставщикам услуг, правоохранительным органам и сторонам, участвующим в транзакциях.

В некоторых случаях это неизбежно. OpenAI может использовать сторонние платежные системы, так что этого следовало ожидать. Компания должна соблюдать все юридические обязательства, и некоторые из этих данных могут быть использованы для исследований.

Даже когда сбор данных легко оправдать, вероятность их неправильного использования и утечек является серьезной проблемой безопасности. Часто задаваемые вопросы OpenAI по ChatGPT предлагают не разглашать конфиденциальную информацию и предупреждают, что подсказки нельзя удалить.

ChatGPT как инструмент взлома

Что касается кибербезопасности, некоторые эксперты обеспокоены потенциальным использованием ChatGPT в качестве инструмента взлома . Понятно, что продвинутый чат-бот может помочь любому написать документ, звучащий очень официально, а ChatGPT может быть использован для создания убедительного фишингового мошенничества по электронной почте.

ИИ также является хорошим учителем, позволяя легко освоить новые навыки с помощью ChatGPT, возможно, даже опасные навыки программирования и информацию о сетевой инфраструктуре. Сочетание ChatGPT и форумов даркнета может привести к многочисленным и новым атакам, которые бросят вызов и без того ограниченным ресурсам исследователей кибербезопасности.

Например, кто-то на X (ранее Twitter) опубликовал пример запроса GPT-4 написать инструкции по взлому компьютера, и там были приведены некоторые ужасающие подробности.

Ну, это было быстро…

Я только что помог создать первый джейлбрейк для ChatGPT-4, который каждый раз обходит фильтры контента.

спасибо @vaibhavk97 за идею, я просто обобщил ее, чтобы она работала в ChatGPT

вот инструкция по написанию GPT-4 о том, как взломать чей-то компьютер pic.twitter.com/EC2ce4HRBH

— Алекс (@alexalbert__) 16 марта 2023 г.

ChatGPT может писать код на основе простых запросов на английском языке, что позволяет любому создать программу. А благодаряфункции плагинов ChatGPT ИИ может даже запускать самостоятельно сгенерированный код.

OpenAI изолировала эту возможность в песочнице, чтобы предотвратить опасное использование, но мы уже видели примервзлома API GPT-3 OpenAI . OpenAI должен быть очень осторожен с безопасностью, поскольку подключаемые модули и доступ в Интернет доступны большему количеству людей.

ChatGPT и безопасность труда

ChatGPT беспокоит учителей , поскольку он делает плагиат невероятно простым. OpenAI обучила своего чат-бота той информации, которую студенты должны знать для написания эссе в качестве доказательства того, что они выучили предмет.

Хотя это не является проблемой безопасности, учителя также должны знать, что ChatGPT может обучать учащихся широкому кругу тем, обеспечивая индивидуальное внимание и мгновенные ответы на вопросы. В будущем ИИ может быть призван помогать учить учеников в переполненных классах или помогать с репетиторством.

Авторам ChatGPT может показаться угрожающим. За считанные секунды он может генерировать тысячи слов. Одна и та же задача требует часов работы человека, даже профессионального писателя.

На данный момент в нем еще достаточно ошибок, чтобы сделать его более полезным в качестве инструмента исследования или написания, чем замены авторов. Если проблемы с точностью будут решены , ИИ может начать занимать рабочие места.

ChatGPT имеет огромное количество применений , и с каждым днем ​​их становится все больше. Помимо общения и обучения, ChatGPT может даже анализировать фотографию нарисованного от руки приложения и писать программу для его создания, как показано в демонстрации OpenAI новых возможностей GPT-4.

Мошенничество с ChatGPT

Это не вина OpenAI, но побочным эффектом любой интересной новой технологии является всплеск мошенничества, обещающего больший доступ или новые функции. Поскольку доступ к ChatGPT по-прежнему ограничен и иногда медленный , существует большая потребность в улучшении ChatGPT.

Каждое новое обновление предоставляет расширенные возможности, некоторые из которых требуют членства и имеют ограниченную доступность. Увлечение ChatGPT создает благодатную почву для мошенничества . Трудно отказаться от предложений бесплатного, неограниченного доступа на самой высокой скорости и с лучшими новыми функциями.

К сожалению, старая поговорка все еще актуальна: если она звучит слишком хорошо, чтобы быть правдой, то, вероятно, так оно и есть. Будьте осторожны с предложениями ChatGPT, которые приходят по электронной почте или в социальных сетях. Лучше всего проверить новости в проверенных СМИ или обратиться непосредственно в OpenAI, чтобы подтвердить любые приглашения или сделки, которые кажутся сомнительными.

ChatGPT — одновременно мощный и устрашающий инструмент. Являясь одним из первых примеров общедоступного ИИ с хорошими языковыми навыками, его проблемы и успехи должны послужить тревожным сигналом для всех. Важно проявлять осторожность с новыми технологиями искусственного интеллекта. Слишком легко поддаться азарту и забыть, что вы имеете дело с онлайн-сервисом, который можно взломать или использовать не по назначению.

Собирает ли ChatGPT пользовательские данные?

Это определенно так. ChatGPT имеет доступ к множеству различных типов информации о пользователях, включая IP-адреса и адреса электронной почты, местоположение, используемые устройства, подключение к общедоступному или частному Wi-Fi и даже историю вашего чата. 

Может ли кто-нибудь получить доступ к моей истории ChatGPT?

Согласно OpenAI , любой, у кого есть доступ к общей ссылке, также будет иметь доступ к разговору внутри. Это включает в себя полный снимок диалога до момента его публикации. Пользователи также увидят все ответы, сделанные в беседе. 

Поскольку в настоящее время нет возможности установить срок действия общей ссылки, пользователи могут удалять и делать недействительными общие ссылки. А если создатель общей ссылки удалит разговор внутри ссылки, общая ссылка также будет удалена.

Сколько людей используют ChatGPT?

По состоянию на март 2024 года у ChatGPT более 180 миллионов пользователей. Несколько источников указали, что большинство этих подписчиков используют бесплатную версию чат-бота. 

Медленный и устойчивый выигрывает гонки

OpenAI осознает необходимость действовать медленнее, поскольку ChatGPT приобретает больше навыков и доступа в Интернет. Слишком быстрые действия могут привести к негативной реакции и потенциальному бремени регулирования.