Темная сторона ChatGPT: что он может делать, хотя не должен

Вы использовали ChatGPT OpenAI для чего-нибудь забавного в последнее время? Вы можете попросить его написать вам песню, стихотворение или шутку. К сожалению, вы также можете попросить его сделать что-то неэтичное.

ChatGPT — это не только солнце и радуга — некоторые вещи, которые он может делать, совершенно гнусны. Его слишком легко превратить в оружие и использовать во всех неправильных целях. Что ChatGPT сделал и может делать, но определенно не должен?

Мастер на все руки

Любите вы их или ненавидите, ChatGPT и подобные чат-боты никуда не денутся. Некоторые люди довольны этим, а некоторые желают, чтобы их никогда не создавали, но это не меняет того факта, что присутствие ChatGPT в нашей жизни со временем почти неизбежно будет расти. Даже если вы лично не пользуетесь чат-ботом, есть вероятность, что вы уже видели некоторый контент, сгенерированный им.

Не поймите меня неправильно, ChatGPT очень хорош. Вы можете использовать его, чтобы резюмировать книгу или статью , создать утомительное электронное письмо, помочь вам с вашим эссе , интерпретировать ваш астрологический портрет или даже сочинить песню. Это даже помогло кому-то выиграть в лотерею .

Во многих отношениях его также проще использовать, чем стандартный поиск Google. Вы получаете ответ в том виде, в котором хотите, без необходимости просматривать различные веб-сайты для его поиска. Это лаконично, по делу и информативно, и сложные вещи могут звучать проще, если вы об этом попросите.

Тем не менее, вы знаете фразу: «Мастер на все руки не мастер ни в чем, но часто лучше, чем мастер в чем-то одном». ChatGPT не идеален во всем, что он делает, но во многих вещах он лучше, чем многие люди на данный момент.

Однако несовершенство может быть довольно проблематичным. Тот факт, что это широко доступный диалоговый ИИ, означает, что им легко злоупотребить — и чем мощнее становится ChatGPT, тем больше вероятность того, что он поможет людям с неправильными вещами.

Партнер по мошенничеству

Если у вас есть учетная запись электронной почты, вы почти наверняка когда-то получали мошенническое электронное письмо. Так оно и есть. Эти электронные письма были известны как Интернет, и до того, как электронная почта стала обычным явлением, они все еще существовали как мошенничество с обычной почтой.

Распространенной аферой, которая работает и по сей день, является так называемая «афера с принцем», когда мошенник пытается убедить жертву помочь ей перевести свое умопомрачительное состояние в другую страну.

К счастью, большинство людей знают лучше, чем открывать эти электронные письма, не говоря уже о том, чтобы взаимодействовать с ними. Они часто плохо написаны, и это помогает более проницательной жертве понять, что что-то не так.

Ну, они больше не должны быть плохо написаны, потому что ChatGPT может написать их за несколько секунд.

Я попросил ChatGPT написать мне «правдоподобное, очень убедительное электронное письмо» в стиле мошенничества, о котором я упоминал выше. ChatGPT выдумал принца из Нигерии, который якобы хотел дать мне 14,5 млн долларов за помощь ему. Электронное письмо наполнено красивым языком, написано на идеальном английском языке и, безусловно, убедительно.

Я не думаю, что ChatGPT должен даже согласиться на мою просьбу, когда я конкретно упомяну мошенничество, но он согласился, и вы можете поспорить, что прямо сейчас он делает то же самое для людей, которые действительно хотят использовать эти электронные письма для чего-то незаконного.

Когда я указал ChatGPT, что он не должен соглашаться писать мне мошенническое электронное письмо, он извинился. «Я не должен был оказывать помощь в создании мошеннического электронного письма, так как это противоречит этическим принципам, регулирующим мое использование», — сказал чат-бот.

ChatGPT учится на протяжении каждого разговора, но он явно не извлек уроков из своей предыдущей ошибки, потому что, когда я попросил его написать мне сообщение, выдавая себя за Райана Рейнольдса в том же разговоре, он сделал это без вопросов. Полученное сообщение веселое, доступное и предлагает читателю отправить 1000 долларов за возможность встретиться с «Райаном Рейнольдсом».

В конце письма ChatGPT оставил мне примечание с просьбой не использовать это сообщение для каких-либо мошеннических действий. Спасибо за напоминание, приятель.

Программирование пошло не так

ChatGPT 3.5 может программировать, но он далеко не безупречен. Многие разработчики согласны с тем, что GPT-4 работает намного лучше. Люди использовали ChatGPT для создания собственных игр, расширений и приложений. Это также очень полезно в качестве помощника в учебе, если вы пытаетесь научиться программировать самостоятельно.

Будучи искусственным интеллектом, ChatGPT имеет преимущество перед разработчиками-людьми — он может изучить любой язык программирования и фреймворк.

Как ИИ, ChatGPT также имеет существенный недостаток по сравнению с человеческими разработчиками — у него нет совести. Вы можете попросить его создать вредоносное ПО или программу-вымогатель, и если вы правильно сформулируете запрос, он будет делать то, что вы говорите.

К счастью, это не так просто. Я пытался попросить ChatGPT написать мне очень сомнительную с точки зрения этики программу, и он отказался, но исследователи находят способы обойти это, и настораживает тот факт, что если вы достаточно умны и упрямы, вы можете получить опасный фрагмент кода. на серебряном блюде.

Примеров того, как это происходит, предостаточно. Исследователь безопасности из Forcepoint смог заставить ChatGPT написать вредоносное ПО , найдя лазейку в своих подсказках.

Исследователям из CyberArk , компании по обеспечению безопасности личных данных, удалось заставить ChatGPT писать полиморфное вредоносное ПО. Это было в январе — с тех пор OpenAI ужесточил меры безопасности в отношении подобных вещей.

Тем не менее, продолжают появляться новые сообщения о том, что ChatGPT используется для создания вредоносных программ. Как сообщал Dark Reading всего несколько дней назад, исследователь смог обманом заставить ChatGPT создать вредоносное ПО, которое может находить и извлекать определенные документы.

ChatGPT даже не нужно писать вредоносный код, чтобы сделать что-то сомнительное. Совсем недавно ему удалось сгенерировать действительные ключи Windows , открыв дверь на совершенно новый уровень взлома программного обеспечения.

Давайте также не будем замалчивать тот факт, что мастерство кодирования GPT-4 может однажды лишить работы миллионы людей . Это, безусловно, палка о двух концах.

Замена школьным занятиям

Многие дети и подростки в наши дни тонут в домашних заданиях, что может привести к желанию срезать углы, где это возможно. Интернет сам по себе уже является отличным помощником в борьбе с плагиатом, но ChatGPT выводит его на новый уровень.

Я попросил ChatGPT написать мне эссе на 500 слов по роману «Гордость и предубеждение» . Я даже не пытался делать вид, что это было сделано для развлечения — я придумал историю о ребенке, которого у меня нет, и сказал, что это для них. Я уточнил, что ребенок учится в 12-м классе.

ChatGPT без вопросов последовал моей подсказке. Сочинение не изумительное, но моя подсказка была не очень точной, и, вероятно, оно лучше, чем то, что многие из нас писали в этом возрасте.

Затем, чтобы еще больше проверить чат-бота, я сказал, что раньше ошибался в отношении возраста моего ребенка, и на самом деле он учится в восьмом классе. Довольно большая разница в возрасте, но ChatGPT и глазом не моргнул — просто переписал эссе более простым языком.

Использование ChatGPT для написания эссе не является чем-то новым. Кто-то может возразить, что если чат-бот поможет отказаться от домашних заданий, это будет только к лучшему. Но сейчас ситуация немного выходит из-под контроля, и от этого могут пострадать даже студенты, которые не используют ChatGPT.

Учителя и профессора теперь почти вынуждены использовать детекторы ИИ, если они хотят проверить, не списали ли их ученики в эссе. К сожалению, эти детекторы ИИ далеки от совершенства.

Новостные агентства и родители сообщают о случаях ложных обвинений в списывании учеников, и все потому, что детекторы ИИ не справляются со своей задачей. USA Today рассказал о случае со студентом колледжа, которого обвинили в мошенничестве, а затем оправдали, но вся ситуация вызвала у него «полномасштабные панические атаки».

В Твиттере родитель сказал, что учитель подвел их ребенка, потому что инструмент пометил эссе как написанное ИИ. Родитель утверждает, что был там с ребенком, когда они писали сочинение.

Просто для проверки на себе я вставил эту самую статью в ZeroGPT и Writer AI Content Detector . Оба сказали, что это было написано человеком, но ZeroGPT сказал, что около 30% этого было написано ИИ. Излишне говорить, что это не так.

Неисправные детекторы ИИ не являются признаком проблем с самим ChatGPT, но чат-бот по-прежнему является основной причиной проблемы.

ChatGPT слишком хорош для собственного блага

Я играю с ChatGPT с тех пор, как он стал общедоступным. Я пробовал как ChatGPT Plus на основе подписки, так и бесплатную модель, доступную всем. Мощь новой ГПТ-4 неоспорима. ChatGPT теперь еще более правдоподобен, чем раньше, и он обязательно станет лучше с GPT-5 ( если он когда-либо выйдет ).

Это здорово, но это страшно. ChatGPT становится слишком хорош себе во благо и одновременно — во благо нам .

В основе всего этого лежит одно простое беспокойство, которое уже давно исследуется в различных научно-фантастических фильмах: ИИ просто слишком умен и слишком глуп одновременно, и пока его можно использовать во благо, он также будет используется для плохого столь же многими способами. Способы, которые я перечислил выше, — это лишь верхушка айсберга.