Сводные новости Apple об искусственном интеллекте — это беспорядок, который вызывает больше беспокойства, чем «кликбейт»

Я никогда не ожидал, что ИИ Apple однажды будет раскритикован как « кликбейт ». Это не очень хорошая новость для Apple, которая еще не выпустила полную версию Apple Intelligence.

Реальная ситуация может быть гораздо серьезнее, чем безобидное прилагательное «кликбейт». Если авторы заголовков используют только преувеличения и цитаты вне контекста, чтобы привлечь внимание, то то, что делает Apple AI, можно назвать «путающим добро и зло».

Необходимо уточнить, что ответственность за эту «неприятность» полностью лежит на Apple AI и не имеет никакого отношения к доступу к ChatGPT.

Недавно Британская радиовещательная корпорация (BBC) опубликовала серию новостей и последующих репортажей об убийстве Луиджи Манджионе, генерального директора страховой компании UnitedHealth Брайана Томпсона, упомянув, среди прочего, что ему будут предъявлены обвинения в убийстве первой степени.

Однако на скриншоте, предоставленном BBC, видно, что сводка новостей, созданная с помощью искусственного интеллекта Apple, звучит так: «Луиджи Манджионе застрелился ». Это далеко от истинного хода событий: как сообщается, он до сих пор содержится в тюрьме Пенсильвании.

Это так возмутительно, так неправильно.

В ответ на эту нелепую ошибку BBC официально подала жалобу на Apple, попросив последнюю принять корректирующие меры и не допустить повторения подобных ошибок в будущем. Представитель BBC заявил, что компания «привержена самым высоким стандартам точности и беспристрастности и стремится избегать преднамеренного и серьезного введения наших читателей в заблуждение».

Кроме того, организация «Репортеры без границ» (RSF) также призвала Apple отказаться от своих генеративных возможностей искусственного интеллекта . В организации заявили, что инцидент с «ложным заголовком» показал, что «сервисы генеративного искусственного интеллекта все еще слишком незрелы, чтобы предоставлять общественности достоверную информацию».

Винсент Бертье, руководитель отдела технологий и журналистики организации «Репортеры без границ», сказал, что ИИ — это машина вероятностей, и факты невозможно определить, бросая кости. Он также отметил, что Европейский закон об искусственном интеллекте не классифицирует ИИ, генерирующий информацию, как систему высокого риска, оставляя «серьезный правовой вакуум».

На самом деле, это не первый случай, когда в обзоре Apple по искусственному интеллекту содержатся «сфабрикованные новости». В прошлом месяце репортер по имени Кен Швенке с американского новостного сайта расследований ProPublica поделился скриншотом Bluesky.

В первой новости на скриншоте четко говорилось: « Нетаньяху арестован ». Однако на самом деле происходит то, что Международный уголовный суд выдал ордер на арест премьер-министра Израиля Биньямина Нетаньяху.

Этот отчет, серьезно искаженный искусственным интеллектом Apple, исходит от газеты New York Times (NYTimes), которая пока не прокомментировала этот вопрос.

Функция интеллектуального создания сводных данных Apple Intelligence будет официально запущена во второй половине этого года. Намерение Apple состоит в том, что она может «помочь уточнить информацию, которая наиболее важна для вас, благодаря глубокому пониманию языка , а уведомления будут генерировать сводки, чтобы вы могли сразу увидеть важные детали».

Кажется, что «глубокое понимание языка», упомянутое Apple, кажется очень размытым. Петрос Иосифидис, профессор медиа-политики Лондонского городского университета, сказал, что ошибка Apple «выглядит постыдно».

Иофидис также сказал, что он «удивлен тем, что Apple выпустила такой явно недоделанный продукт». Хотя эта технология имеет потенциальные преимущества в будущем, в настоящее время « существует реальная опасность распространения дезинформации ».

Сегодня, с развитием генеративной технологии искусственного интеллекта, мы, кажется, естественно думаем, что использовать ее для резюмирования статьи — это «легкий кусок пирога» для искусственного интеллекта. На самом деле, большинство инструментов ИИ редко придумывают что-то, когда их используют, но недоразумения или выдергивание вещей из контекста встречаются чаще.

Помимо Apple, такие технологические компании, как Google и Microsoft, также пытаются использовать технологии искусственного интеллекта для классификации, сортировки и обобщения новостей. Хотя такие инструменты ИИ могут улучшить взаимодействие с пользователем, если они совершают ошибки без вмешательства человека, возникающие в результате « недоразумения » могут распространяться в геометрической прогрессии.

Хотя ИИ уже может отлично справляться со своей задачей, помогая людям повысить эффективность работы в большинстве сценариев, вероятность ошибок ни в коем случае не равна нулю. Поэтому нам приходится делать чуть ли не единственный выбор между « риском ошибок » и « наслаждением удобством ИИ ».

В следующий раз нам нужно «держать глаза открытыми» на всю информацию в социальных сетях.

# Добро пожаловать на официальную общедоступную учетную запись WeChat aifaner: aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo