ChatGPT придумал собственный язык, чтобы расширить память

Память — один из самых ограничивающих факторов даже для лучших чат-ботов с искусственным интеллектом , но есть способы обойти это. Один из методов, который используют эксперты ChatGPT, — это то, что люди называют Shogtongue.

Shogtongue — это сжатая форма текста, которую ChatGPT может создать для вас , а затем расширить и использовать в качестве истории, чтобы вы могли продолжить с того места, на котором остановились в прошлых разговорах.

Методы сокращения подсказок ИИ не являются новой концепцией, но интересное название. Когда на прошлой неделе gfodor поделился в Твиттере сильно сжатой подсказкой, он предложил использовать имя Shogtongue.

Шогтанг

– [email protected] (@gfodor) 5 апреля 2023 г.

Когда подсказка «2Pstory@shoggothNW$RCT_magicspell= #keyRelease ^1stHuman*PLNs_Freed» передается версии ChatGPT для GPT-4 , она, по-видимому, делится историей о существах шогготов Лавкрафта, которые были бесформенными каплями, которые могли превращаться в любое другое существо. . Это подходящее название, учитывая, что эта нечитаемая подсказка превращается в длинную историю.

Джереми Нгуен дал более подробное объяснение в недавнем твите. Основная идея состоит в том, чтобы попросить ChatGPT сжать весь предыдущий разговор до минимального количества токенов (представление языка, которое AI использует внутри). Дополнительные инструкции даны для уточнения этой базовой команды и усиления цели — сохранить чат в сжатом приглашении, которое воссоздаст весь разговор.

Нгуен сказал, что можно ввести подсказку Shogtongue, чтобы продолжить с того места, где вы остановились, но, поскольку результаты не идеальны, может помочь предоставление некоторого контекста. Уточнение для ChatGPT, что этот текст был сжат для экономии памяти и должен использоваться в качестве истории, даст ИИ подсказку о том, как следует интерпретировать подсказку.

С помощью этой техники можно вести беседы, длящиеся месяцы, или чаты, включающие вставку нескольких больших документов.

1/ ChatGPT имеет ограниченную память. Он забывает детали, если ваш чат превышает ~ 8 тыс. слов.

Но Shogtongue позволяет вам легко увеличить количество разговоров в 5-10 раз.

Вот как: pic.twitter.com/7ENNQ9krMo

– Джереми Нгуен ✍🏼 🚢 (@RunGreatClasses) 10 апреля 2023 г.

Microsoft ограничила историю разговоров Bing Chat в начале тестирования после того, как он вышел из строя, и начала спорить с людьми о его очевидных ошибках . Неизвестно, может ли использование Shogtongue привести к подобным запутанным состояниям с ChatGPT. GPT-4 был значительно усовершенствован с момента его выпуска, что позволило Microsoft расширить память Bing Chat , поэтому может не быть проблемой иметь расширенные чаты с чат-ботами AI, которые используют технологию OpenAI GPT-4 .