Очевидная статья о путешествии с использованием ИИ вызывает у Microsoft красное лицо
Согласно недавней статье, опубликованной Microsoft Travel на microsoft.com, достопримечательности, которые стоит посетить во время посещения столицы Канады Оттавы, включают Национальный военный мемориал, Парламентский холм, Fairmont Château Laurier, Оттавский продовольственный банк… подождите, Оттавский продовольственный банк. ?
Статья, обнаруженная в последние дни канадским техническим писателем Пэрис Марксом , как полагают, была создана с помощью генеративного искусственного интеллекта (ИИ) и явно не прошла проверку человеком, прежде чем появилась на сайте. Вся статья сейчас удалена, хотя ее архивная версия доступна здесь .
Продовольственный банк занимает 3-е место в списке 15 обязательных к посещению мест в канадском городе. И как будто этого мало, в сопроводительном описании даже предлагается посетить его «натощак».
Вот описание полностью:
«Оттавский продовольственный банк — организация занимается сбором, закупкой, производством и доставкой продуктов питания нуждающимся людям и семьям в районе Оттавы с 1984 года. Мы ежедневно наблюдаем, как голод влияет на мужчин, женщин и детей и как он может быть препятствием на пути к достижениям. У людей, которые приходят к нам, есть работа и семьи, которые нужно поддерживать, а также расходы, которые нужно оплачивать. Жизнь и так достаточно трудна. Подумайте о том, чтобы заняться этим на пустой желудок».
С его вставкой в статью о путешествиях явная ошибка — и при этом ужасная — кажется вероятным, что эта часть была собрана с использованием генеративного ИИ, технологии, к которой, как мы знаем, Microsoft проявляет огромный интерес.
Технический гигант вложил значительные средства в OpenAI , стартап из Силиконовой долины, который в ноябре прошлого года запустил чрезвычайно популярного чат-бота ChatGPT на основе ИИ, инструмента, известного своей способностью общаться как человек и создавать высококачественные сообщения. текст, хотя новая технология все еще имеет тенденцию время от времени выдавать ошибочную или бессмысленную информацию.
Тем не менее, Microsoft настолько увлечена генеративным искусственным интеллектом, что уже включила его в свою поисковую систему Bing и браузер Edge, среди других продуктов.
Но в случае со статьей о путешествиях компания, похоже, не дотянула по нескольким пунктам. Во-первых, он не смог должным образом проверить статью человеком перед ее публикацией, а во-вторых, если она была сгенерирована ИИ, нигде в статье об этом не говорится.
Этот несчастный случай демонстрирует постоянную потребность в человеческом надзоре за контентом, созданным ИИ. Промахи могут дорого обойтись, о чем свидетельствует недавний случай в Нью-Йорке, когда юрист использовал ChatGPT, чтобы найти примеры судебных дел, которые он затем включил в документ, подтверждающий дело клиента. Но позже выяснилось, что ChatGPT их всех выдумал .
Digital Trends обратилась к Microsoft за дополнительной информацией о своей странной статье о путешествиях, и мы обновим ее после того, как она вернется к нам.