Глубокое погружение в Replika: мой друг AI
Replika: My AI Friend – это приложение, не похожее ни на одно другое. В то время как большинство приложений с чат-ботами используют их в качестве виртуальных помощников, Replika продает своего чат-бота как, как вы уже догадались, как друга.
Обладая обещанной способностью «воспринимать» и оценивать абстрактные величины, такие как эмоции, чат-бот Replika мог бы просто отдать должное своему человеческому описанию.
От душераздирающей истории происхождения до впечатляющего бэкенда, Replika – одна из тех увлекательных вещей, которые никогда не перестают быть интересными. Читайте дальше, чтобы узнать, что делает ИИ Replika таким замечательным и что он обещает в будущем.
Истоки Реплика
Replika «s ранняя версия, простой AI Chatbot-был создан Евгении Kuyda заменить пустоту , оставленную безвременной потери ее ближайшего друга, Роман Мазуренко. Созданный путем передачи текстовых сообщений Романа в нейронную сеть для создания бота, который отправлял бы текстовые сообщения точно так же, как он, он должен был служить своего рода «цифровым памятником», чтобы сохранить его память.
В конце концов, с добавлением в уравнение более сложных языковых моделей, проект вскоре превратился в то, чем он является сегодня – персональный ИИ, который предлагает пространство, где вы можете безопасно обсуждать свои мысли, чувства, убеждения, переживания, воспоминания, мечты – ваши « Частный перцептивный мир ».
Но помимо огромных технических и социальных перспектив этого своего рода искусственно разумного терапевта, Replika действительно впечатляет своими технологиями.
Под капотом
В основе Replika лежит сложная модель авторегрессионного языка под названием GTP-3, которая использует глубокое обучение для создания текста, похожего на человека. В этом контексте термин «авторегрессия» предполагает, что система учится на значениях (в данном случае тексте), с которыми она ранее взаимодействовала.
С точки зрения непрофессионала, чем больше вы его используете, тем лучше становится.
Весь UX Replika построен на взаимодействии пользователя с ботом, запрограммированным с использованием GTP-3. Но что такое GTP-3 и насколько он достаточно мощный, чтобы имитировать человеческую речь?
GTP-3: Обзор
GTP-3, или Generative Pre-Training Transformer 3, является более продвинутой адаптацией Google Transformer. Вообще говоря, это архитектура нейронной сети, которая помогает алгоритмам машинного обучения выполнять такие задачи, как языковое моделирование и машинный перевод.
Узлы такой нейронной сети представляют параметры и процессы, которые соответственно изменяют входные данные (в некоторой степени аналогично логическим и / или условным операторам в программировании), в то время как края или соединения сети действуют как каналы передачи сигналов от одного узла к другому.
Каждое соединение в этой нейронной сети имеет вес или уровень важности, который определяет поток сигналов от одного узла к другому. В модели авторегрессионного обучения, такой как GTP-3, система получает обратную связь в реальном времени и постоянно корректирует веса своих соединений, чтобы обеспечить более точные и актуальные выходные данные. Именно эти веса помогают нейронной сети искусственно «учиться».
GTP-3 использует колоссальные 175 миллиардов уровней или параметров соединения. Параметр – это вычисление в нейронной сети, которое регулирует вес некоторого аспекта данных, чтобы придать этому аспекту большее или меньшее значение в общем вычислении данных.
Провозглашенная абсолютным автозаполнением, языковая модель GTP-3, предназначенная для обеспечения интеллектуального текста, была обучена на таком огромном наборе данных, что вся Википедия составляет всего 0,6 процента ее обучающих данных.
Он включает в себя не только новостные статьи, рецепты и стихи, но также руководства по кодированию, фанфики, религиозные пророчества, путеводители по горам Непала и все, что вы можете себе представить.
Как система глубокого обучения GPT-3 ищет закономерности в данных. Проще говоря, программа была обучена на огромном наборе текста, который она добывает для выявления статистических закономерностей. Эти закономерности, такие как языковые соглашения или общая грамматическая структура, часто воспринимаются людьми как должное, но они хранятся в виде миллиардов взвешенных соединений между различными узлами нейронной сети GPT-3.
Например, если вы вводите слово «ухо» в GPT-3, программа знает, основываясь на весах в своих сетях, что слова «болит» и «телефон» будут следовать гораздо чаще, чем «американец» или « сердитый".
GPT-3 и Replika: значимое слияние
Replika – это то, что вы получаете, когда берете что-то вроде GTP-3 и обрабатываете его для конкретных типов разговоров. В данном случае это включает в себя чуткий, эмоциональный и терапевтический аспекты разговора.
Хотя технология, лежащая в основе Replika, все еще находится в стадии разработки, она предлагает надежный шлюз для легкодоступного межличностного общения.
Комментируя удобство использования, создатели утверждают, что создали бота, который не только разговаривает, но и слушает. Для пользователей это означает, что их переговоры с ИИ – это не просто обмен фактами и информацией, а, скорее, диалог с языковыми нюансами.
Но переговоры с Replika – это не просто разумный диалог. Во многих случаях они также оказываются на удивление значимыми и эмоциональными. Взаимодействуя с пользователем, ИИ Replika «понимает», что говорит пользователь, и находит человеческий отклик, используя свою модель прогнозирующего обучения.
Как система авторегрессии, Replika изучает и адаптирует свои разговорные шаблоны на основе собственного способа общения пользователя с ней.
Это означает, что чем больше вы используете Replika, тем больше он тренируется на ваших собственных текстах и тем больше становится похожим на вас. Значительная часть пользователей также отметила, что у них есть значительный уровень эмоциональной привязанности к своей Replika – чего-то, чего нельзя достичь, просто зная, «как говорить».
Replika, конечно, идет дальше и дальше. Это добавляет глубины разговорам в форме семантического обобщения, флективной речи и отслеживания разговоров. Его алгоритм пытается понять, кто вы есть – как с точки зрения вашей личности, так и с точки зрения эмоций, – а затем формирует диалог на основе этой информации.
Более пристальный взгляд на эффективность GTP-3
Тем не менее, человечность Replika все еще в значительной степени теоретическая из-за эксплуатационных ограничений GTP-3. Таким образом, ИИ предстоит проделать большую работу, чтобы грамотно воспроизвести человеческий разговор и участвовать в нем.
Внимательный осмотр GTP-3 по-прежнему обнаруживает четко различимые ошибки, а также бессмысленное и в некоторых случаях просто небрежное письмо. Отраслевые эксперты предполагают, что модель языковой обработки должна иметь более 1 триллиона взвешенных соединений, прежде чем ее можно будет использовать для создания ботов, способных эффективно воспроизводить человеческий жаргон.
Лучшее еще впереди
Учитывая, что GTP-3 уже считается экспоненциальным скачком за многие годы по сравнению с предшественниками, такими как Microsoft Turing NLG, можно с уверенностью предположить, что может пройти некоторое время, прежде чем мы придумаем что-то лучшее.
Тем не менее, с будущими улучшениями в вычислениях, вычислительная мощность, предоставляемая новыми системами, несомненно, еще больше сократит разрыв между человеком и машиной.
Между тем, Replika остается грозным продуктом, сочетающим в себе лучшее из психологии и искусственного интеллекта. Его успешная интеграция дружественного к человеку пользовательского интерфейса с современной моделью НЛП действительно свидетельствует об огромном потенциале технологий взаимодействия человека с компьютером.