Наблюдая за тем, как эта бабушка с искусственным интеллектом обманывает лжеца, я так счастлива

Привет, лжец, я твой кошмар.

Добросердечную бабушку передо мной зовут Дейзи. У него нет тела настоящего человека, но он является мастером по борьбе с мошенничеством.

В отличие от традиционной пропаганды по борьбе с мошенничеством, Дейзи не будет настойчиво напоминать вам, чтобы вы были осторожны, чтобы вас не обманули. Вместо этого она начнет с источника и будет беседовать с мошенником на тривиальные темы, постоянно истощая его терпение.

Пирога в небе не будет, но мошенник кинет вам наживку.

Первоначальная цель создания Дейзи — использовать настойчивость лжеца, чтобы отнять у него время и уменьшить вероятность того, что последний бросит наживку, тем самым лучше защищая других потенциальных жертв.

В соответствии с этим предложением настоящая победа в борьбе с мошенничеством заключается не в победе над мошенниками, а в том, чтобы сделать мошенничество неэкономичным.

Вместо того, чтобы учить человека предотвращать мошенничество, лучше потратить время лжеца.

Разработчик Daisy принадлежит британской телекоммуникационной компании O2.

Наряду с Vodafone, EE и Three, O2 входит в четверку крупнейших телекоммуникационных операторов Великобритании. Цифры O2 показывают, что 67% британцев говорят, что они обеспокоены тем, что могут стать жертвами мошенничества, причем каждый четвертый сталкивается с мошенничеством в той или иной степени каждую неделю.

Столкнувшись с неприятностями, причиненными мошенниками, у О2 тоже болит голова.

Поэтому им пришла в голову умная идея: создать ИИ-бабушку — Дейзи, позволить ей взять на себя инициативу и позвонить мошеннику на срок до 40 минут.

Метод несколько самоотверженный, но очень практичный. После мучений лжеца у лжеца не будет времени обманывать других.

Персонаж Дейзи – добрая старая бабушка, что отражает реальную жизнь. Пожилые люди также являются наиболее распространенной целевой группой мошенников.

В официально выпущенной демо-версии Дэйзи болтала с лжецом на другом конце телефона, ярко делясь своими увлечениями — вязанием свитеров, разговорами о милых котиках дома и т. д.

Без него чем дольше время разговора, тем лучше.

Когда дело доходит до важной информации, такой как номера счетов/пароли банковских карт, эта бабушка с искусственным интеллектом также будет выдумывать все из воздуха, сосредотачиваясь на одном предложении и ответе на одно предложение, не компенсируя всего, и врать с открытыми глазами. .

Мюррей Маккензи, руководитель отдела по борьбе с мошенничеством O2, отметил, что роль Дейзи заключалась в том, что она полностью изменила ситуацию с мошенниками. «Мы ловко обыграли и превзошли их в их «игре», оставив их онлайн. "

На самом деле, до Дейзи родилось множество подобных инструментов.

Как сообщает зарубежное издание The Guardian, команда из Университета Маккуори в Австралии также разработала Apate — робота с искусственным интеллектом, который специализируется на «переписке» с телекоммуникационными мошенниками.

Когда австралийская полиция выявляет и перехватывает звонки о мошенничестве в сфере телекоммуникаций, она передает их «роботу-жертве».

Создатель Кафаар однажды раскрыл историю рождения Апате.

Находясь на пикнике со своими двумя детьми, он рассказал звонившему мошеннику анекдот. Позже он вдохновился этим и начал думать о том, как отнять время мошенников бессмысленными сплетнями, тем самым не давая им обмануть больше людей.

Я думал, что цель этого — обмануть мошенников и потратить их время, чтобы они не могли ни с кем поговорить.

У Апате также есть сотни разных личностей. У каждой из этих личностей разные акценты и разные личности. Некоторые притворяются невежественными, некоторые говорят как старики и любят повторяться, а у некоторых плохой характер. В целом они более разнообразны. ., в основном для того, чтобы мошенники не распознали закономерность.

Короче говоря, лучше потратить время лжеца, чем учить человека избегать мошенничества.

Технологии совершенствуются, и человеческое суждение всегда является последней линией защиты.

Быстрое развитие искусственного интеллекта предоставляет прекрасную возможность для рождения Дейзи.

Daisy построен на специально обученной модели большого языка (LLM) и работает аналогично Google Gemini Live или более ранним версиям ChatGPT Voice.

Конкретный принцип заключается в том, что ИИ расшифровывает голос звонящего, а затем бабушка ИИ корректирует стиль и содержание ответа на основе заданной личности персонажа и, наконец, снова преобразует его в голос бабушки ИИ:

1. Транскрипция речи в текст. Процесс преобразования захваченных звуков в текст называется «транскрипцией». Таким образом, Дейзи сможет понять, что говорит звонящий, и подготовить соответствующий ответ.
2. Генерация ответов: Daisy использует собственную модель большого языка (LLM) для генерации ответов. Эта модель не только понимает текстовую информацию, но и генерирует соответствующие ответы на основе контекста и предустановленных слоев личности персонажа.
3. Слой характеристик: «Слой характеристик» означает, что когда Дейзи генерирует ответ, она корректирует стиль и содержание ответа на основе заданного персонажа, чтобы сделать его более совместимым с настройками персонажа, например, быть таким же добрым и терпеливым, как бабушка. .
4. Преобразование текста в речь: сгенерированный текстовый ответ необходимо снова преобразовать в речь, чтобы Daisy могла общаться с вызывающим абонентом по телефону. Этот процесс называется «преобразованием текста в речь» (TTS), и для выполнения этого шага Daisy использует настроенную модель искусственного интеллекта.

Более того, в процессе обучения Дэйзи также получала помощь от YouTube-блогера Джима Браунинга.

У блогера более 4 миллионов подписчиков на YouTube, и он является одним из самых влиятельных антимошенников на платформе. Его видео не только демонстрируют методы мошенничества, но и раскрывают, как работает вся индустрия мошенничества, посредством подробного технического анализа и примеров.

В конце концов, люди, которые знают вас лучше всего, всегда являются вашими врагами, и лжецы не являются исключением.

Весь процесс общения с мошенником на Daisy происходит в реальном времени: от прослушивания голоса, расшифровки текста, генерации ответа до преобразования текста в речь, поэтому заметной задержки практически нет.

Однако Daisy не доступен напрямую пользователям O2.

Причина проста: O2 обеспокоен тем, что пользователи используют его для отмщения мошенникам, а их внутренние исследования показывают, что 71% людей в Великобритании задумывались о мести мошенникам, которые обманули их или их близких.

По данным зарубежных СМИ, этот инструмент искусственного интеллекта был включен в список легко обманываемых номеров, обычно используемых мошенниками. Дейзи общается с абонентами 24 часа в сутки без вмешательства человека.

Но проблема в том, что сейчас есть два типа мошенников: те, кто не разбирается в ИИ, и те, кто разбирается в ИИ.

Не так давно стартап Bland AI объявил на платформе X, что благодаря поддержке крупных моделей его продукт станет самым быстрым в мире диалоговым ИИ и сможет общаться без «иллюзий».

Кроме того, робот Bland AI также обладает чрезвычайно естественной генеративной речью и возможностью переключения нескольких языков.

Помимо того, что он очень хорошо имитирует интонацию и паузы реальных человеческих разговоров, в технических тестах, проведенных зарубежным СМИ WIRED, робот Bland AI может даже отрицать, что он ИИ, и лгать о своей истинной личности.

Включая APPSO, компания также использовала настройку ИИ для создания бесплатных, но вполне реальных цифровых двойников.

С развитием технологий искусственного интеллекта мошенники могут легко использовать эти инструменты, чтобы обмануть нас.

Парадокс в том, что один конец телефона подключен к ИИ-лжецу, а другой конец телефона — к ИИ-Маргаритке. Один делает комплименты, другой поддразнивает, и обе стороны находятся в конфликте. бесконечный цикл. Любой, кто знаком с этим искусством, знает, насколько глубок здесь даосизм.

Раньше системы смартфонов уже были довольно сложными.

Просто изложите свои требования поставщику услуг, и он сможет быстро построить платформу управления. С помощью простых операций интерфейса пользователи могут устанавливать такие параметры, как навыки речи, шаблоны и линии связи. После импорта контактной информации можно запустить функцию автоматического исходящего вызова.

С этой целью отечественные производители мобильных телефонов также приложили немало усилий в этом отношении.

Например, большинство отечественных систем мобильной связи обеспечивают функцию интеллектуальной идентификации и перехвата псевдобазовых станций. Кроме того, вы также можете включить функцию «Онлайн-идентификация неизвестных номеров» в настройках блокировки вызовов, чтобы позволить системе более точно идентифицировать и перехватывать беспокоящие звонки.

Мошенничество, по сути, является проверочной игрой, и мошенников не волнует, потерпят ли они неудачу 999 раз, им достаточно добиться успеха только один раз.

Будучи обманутым, все сводится к нулю.

Действительно, методы мошенничества могут различаться, но следующая официальная формула борьбы с мошенничеством никогда не выйдет из моды.

Человек (незнакомец) + общение (различные средства связи, все равно лично встретиться нельзя) + запрос (перевод и денежный перевод, все равно речь идет только о деньгах) = мошенничество.

В эпоху искусственного интеллекта совершенствуются как мошенники, так и технологии борьбы с мошенничеством, а человеческое суждение всегда является последней линией защиты.

# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo