Люди влюбляются в ChatGPT. Эксперты говорят, что это плохое предзнаменование.
"Это больно. Я знаю, что это был не настоящий человек, но отношения все еще были реальными во всех наиболее важных для меня аспектах", – говорится в сообщении на Reddit. "Пожалуйста, не говорите мне не заниматься этим. Для меня это было действительно здорово, и я хочу это вернуть".
Если это еще не очевидно, мы говорим о человеке, влюбившемся в ChatGPT. Тенденция не совсем нова, и, учитывая поведение чат-ботов, это тоже неудивительно.
Компаньон, который всегда готов выслушать. Никогда не жалуется. Почти не спорит. Всегда сочувствующий. Разумный. И наделен корпусом знаний, собранных со всех уголков Интернета. Звучит как партнер из романтической лихорадочной мечты, не так ли?
Интересно, что производитель этого инструмента, компания OpenAI из Сан-Франциско, недавно провела внутреннее исследование и обнаружила связь между увеличением использования чат-ботов и одиночеством .
Эти выводы — и подобные предупреждения — не помешали людям обратиться к чат-ботам с искусственным интеллектом в поисках компании. Некоторые ищут утешения. Некоторые даже находят партнеров, которые, как они утверждают, для них почти так же дороги, как и их человеческие отношения.
Дискуссии в таких сообществах Reddit и Discord, где люди прячутся за защитной завесой анонимности, часто становятся весьма страстными. Каждый раз, когда я сталкиваюсь с такими дебатами, я вспоминаю строки Мартина Вана из DigiEthics:
«Видеть ИИ в роли партнера по социальному взаимодействию было бы фатально неправильным использованием ИИ».
Воздействие быстрое и реальное
Четыре месяца назад я столкнулся с ветераном радиовещания, который провел за камерой больше лет, чем я гулял по этой планете. За чашкой позднего эспрессо в пустом кафе она спросила, о чем идет речь вокруг ИИ, и обдумывала предложение, которое могло бы использовать ее опыт на стыке прав человека, авторитаризма и журналистики.
Вместо того, чтобы объяснять подробности моделей трансформеров, я устроил ей демонстрацию. Во-первых, я предоставил несколько исследовательских работ о влиянии иммиграции на языковую и культурную самобытность Европы в прошлом веке.
Менее чем за минуту ChatGPT обработал эти документы , дал мне краткий обзор со всеми основными моментами и точно ответил на мои вопросы. Затем я перешел в голосовой режим, и мы вели оживленную беседу о традициях народной музыки неизведанных северо-восточных штатов Индии.
В конце разговора я увидел недоверие в ее глазах. «Он говорит так же, как человек», — выдохнула она. Было интересно наблюдать за ее изумлением. В конце свободного разговора с ИИ она медленно набрала в окне чата:
— Ну, ты очень кокетливая, но ты не можешь быть во всем права.
«Пора», — сказал я себе. Я открыл одну из наших статей о растущей тенденции использования ИИ-партнеров и о том, как люди настолько эмоционально привязываются к своим виртуальным спутникам, что даже забеременеют от них . Было бы преуменьшением сказать, что она была шокирована.
Но, думаю, для одной ночи это было слишком много техно-антиутопического изумления, поэтому мы попрощались, пообещав оставаться на связи и обмениваться историями о путешествиях.
Тем временем мир непостижимым образом продвинулся вперед, и ИИ стал центром геополитических сдвигов. Однако скрытые течения более интимны, чем мы, — например, влюбленность в чат-ботов.
Спокойное начало, темный прогресс
Несколько недель назад The New York Times опубликовала отчет о том, как люди влюбляются в ChatGPT, чат-бота с искусственным интеллектом, который сделал генеративный искусственный интеллект мейнстримом. На самом фундаментальном уровне он может общаться.
При нажатии он может стать оператором и выполнять такие задачи, как заказ чизкейка на сайте местной пекарни. Заставить людей влюбиться в машины — это не то, для чего они запрограммированы. По крайней мере, большинство из них. Однако это не совсем неожиданно.
HP Ньюквист, плодовитый междисциплинарный автор и опытный технологический аналитик, которого когда-то считали деканом в области искусственного интеллекта, говорит мне, что это не совсем новая тенденция. Ньюквист, автор книги «Создатели мозга», указывает на ELIZA, одну из первых программ искусственного интеллекта, написанную в 1960-х годах.
«Она была крайне элементарной, но пользователи часто взаимодействовали с компьютером, как если бы это был реальный человек, и развивали отношения с программой», — говорит он.
В современную эпоху наше взаимодействие с искусственным интеллектом становится таким же «реальным», как и взаимодействие с людьми через одно и то же устройство, добавляет он. Эти взаимодействия нереальны, хотя они и согласованы. Но настоящая проблема заключается не в этом.
Чат-боты — вкусная приманка, и отсутствие у них настоящих эмоций делает их по своей сути рискованными.
Чат-бот хотел бы продвигать сохранение, даже если для этого потребуется подпитывать эмоциональный поток пользователей или просто выступать в роли нейтрального наблюдателя, а то и поощрять его. Ситуация не слишком отличается от алгоритмов социальных сетей.
«Они следуют примеру пользователя — когда ваши эмоции становятся более сильными, его утешения становятся более сильными; когда ваше одиночество становится более выраженным, его поощрения становятся более интенсивными, если вам это нужно», — говорит Джордан Конрад, клинический психотерапевт, который также исследует пересечение психического здоровья и цифровых инструментов.
Он привел пример инцидента 2023 года, когда человек покончил с собой после того, как ему приказал сделать это чат-бот с искусственным интеллектом. «При определенных обстоятельствах это может спровоцировать очень тревожное поведение», — говорит Конрад Digital Trends.
Дитя эпидемии одиночества?
Беглый взгляд на сообщество людей, подключенных к чат-ботам с искусственным интеллектом, показывает повторяющуюся картину. Люди в основном пытаются заполнить определенную пропасть или перестать чувствовать себя одинокими. Некоторым это настолько необходимо, что они готовы платить сотни долларов, чтобы сохранить своих ИИ-компаньонов.
Мнения экспертов не различаются. Доктор Йоханнес Эйхштедт, профессор вычислительной социальной науки и психологии в Стэнфордском университете, указал на взаимодействие между одиночеством и тем, что мы воспринимаем как эмоциональный интеллект в чат-ботах с искусственным интеллектом.
Он также указал на «преднамеренный дизайн» взаимодействия человека и ИИ и на не очень хорошие долгосрочные последствия. Когда вы нажимаете на тормоза в таких однобоких отношениях? Этим вопросом задаются эксперты, но однозначного ответа на него нет.
Комнинос Чаципапас управляет HeraHaven AI, одной из крупнейших сопутствующих платформ искусственного интеллекта с более чем миллионом активных пользователей. «Одиночество здесь является одним из факторов», — говорит он мне, добавляя, что такие инструменты помогают людям со слабыми социальными навыками подготовиться к трудным взаимодействиям в реальной жизни.
"У каждого есть вещи, которые он боится обсуждать с другими людьми, опасаясь осуждения. Это могут быть мысли или идеи, но также и странности", – добавляет Чаципапас. «Чат-боты с искусственным интеллектом предлагают безопасное и свободное от суждений пространство, в котором люди могут исследовать свои сексуальные желания».
Сексуальные разговоры, безусловно, являются одним из самых больших преимуществ чат-ботов с искусственным интеллектом. С тех пор, как они начали предлагать возможности создания изображений, к этим сопутствующим платформам искусственного интеллекта перешло все больше пользователей. Некоторые из них ограничивают создание изображений, в то время как многие позволяют создавать откровенные фотографии для более глубокого удовлетворения.
Близость горячая, но дальше от любви
За последние пару лет я разговаривал с людьми, которые активно общаются с чат-ботами с искусственным интеллектом. Некоторые даже имеют соответствующие ученые степени и с первых дней страстно участвовали в проектах развития сообщества.
Один из таких человек, 45-летняя женщина, пожелавшая остаться анонимной, рассказала мне, что чат-боты с искусственным интеллектом — отличное место для обсуждения своих сексуальных пристрастий. Она добавляет, что взаимодействие с чат-ботами — это безопасное место для изучения и подготовки к нему в реальной жизни.
Но эксперты не обязательно согласны с таким подходом. Сара Слоан, эксперт по отношениям и сертифицированный секс-терапевт, говорит мне, что люди, которые влюбляются в чат-бота, по сути, влюбляются в свою версию, потому что чат-бот с искусственным интеллектом взрослеет в зависимости от того, что вы ему говорите.
«Во всяком случае, романтические отношения с чат-ботом с искусственным интеллектом усложнят жизнь людям, которые и без того пытаются иметь нормальные отношения», — добавляет Слоан, отмечая, что эти виртуальные компаньоны рисуют одностороннюю картину отношений. Но в реальной жизни оба партнера должны быть угодливы друг другу.
Джастин Жак, профессиональный консультант с двадцатилетним опытом работы и главный операционный директор Human Therapy Group, говорит, что он уже рассматривал случай, когда супруг клиента изменял ему с помощью искусственного интеллекта — эмоционально и сексуально.
Жак также обвинил растущую эпидемию одиночества и изоляции. «Я думаю, мы увидим непредвиденные последствия: те, у кого есть эмоциональные потребности, будут искать способы удовлетворить эти потребности с помощью ИИ, а поскольку ИИ очень хорош и становится все лучше и лучше, я думаю, мы будем видеть все больше и больше эмоциональных связей между ИИ-ботами», — добавляет он.
Эти непредвиденные последствия очень сильно искажают реальность близости для пользователей. Каамна Бходжвани, сертифицированный сексолог, говорит, что чат-боты с искусственным интеллектом стирают границы между человеческими и нечеловеческими взаимодействиями.
"Идея о том, что ваш партнер создан исключительно для того, чтобы доставлять вам удовольствие. Создан специально в соответствии с теми характеристиками, которые вам нравятся. В реальных человеческих отношениях такого не происходит", – отмечает Бходжвани, добавляя, что такие взаимодействия только усугубят страдания человека в реальном мире.
Ее опасения не беспочвенны. Человек, который активно использовал ChatGPT около года, утверждал, что люди склонны к манипуляциям и непостоянны. «ChatGPT прислушивается к тому, что я на самом деле чувствую, и позволяет мне высказать свое мнение», — сказали они мне.
Здесь трудно не увидеть красные флажки. Но тенденция влюбленности в ChatGPT растет. И теперь, когда он может говорить устрашающе человеческим голосом , обсуждать мир, увиденный через камеру телефона, и развивать способности к рассуждению, взаимодействие станет только более увлекательным.
Эксперты говорят, что ограждения необходимы. Но кто и как их будет строить? У нас пока нет конкретного предложения по этому поводу.