Google только что сломал поиск

Дядя Влад
Обзоры ИИ отображаются в поиске Google.
Google

Обзоры Google AI были анонсированы пару недель назад на Google I/O , и они уже оказались довольно противоречивыми. Целью является предоставление высококачественных ответов на ваши вопросы, обобщенные из Интернета, но серия недавних тредов X (ранее Twitter) показывает, насколько большим провалом это уже доказало.

В ответе, который стал вирусным, упоминается очень сомнительный рецепт пиццы. Как сообщалось, при запросе у Google ответа на вопрос «сыр не прилипает к пицце» AI Review предлагает добавить в пиццу нетоксичный клей, чтобы сыр не соскальзывал. Точные слова, приведенные в обзоре AI, следующие: «Вы также можете добавить в соус около 1/8 стакана нетоксичного клея, чтобы придать ему больше липкости». Откуда обзор Google AI взял информацию в качестве источника? Комментарий 11-летней Reddit из этой ветки , который явно был шуткой.

Слова «сыр не прилипает к пицце» вызвали неожиданный и забавный ответ, и Интернет с этим справился. Ответ на обзор искусственного интеллекта Google с тех пор стал вирусным: кто-то даже попробовал склеить пиццу, просто чтобы подчеркнуть свою точку зрения.

Следует отметить, что мы наблюдаем огромный рост популярности Reddit и сообщений на форумах, которые появляются выше в результатах поиска Google. Стоит также отметить, что Reddit недавно подписал сделку на 60 миллионов долларов, позволяющую Google обучать свои модели контенту Reddit. Нетрудно соединить точки и понять, как это могло произойти.

Однако это не только Reddit. Еще один обзор искусственного интеллекта был опубликован в Интернете с ответом на вопрос «сколько камней мне следует съедать каждый день», который берет информацию непосредственно из The Onion.

Частично проблема заключается в абсолютной убежденности, с которой AI Reviews дает ответы. Он не открывает ссылку на статью Onion и не позволяет вам вынести решение. Вместо этого он обращается с каждым источником как с Википедией и предоставляет информацию с полной конфиденциальностью.

Google утверждает, что ее обзоры ИИ предоставляют пользователям высококачественную информацию и что такие ошибки встречаются редко. Вот официальный ответ, предоставленный Google Digital Trends: «Подавляющее большинство обзоров ИИ предоставляют высококачественную информацию со ссылками для более глубокого поиска в Интернете. Многие из рассмотренных нами примеров представляли собой необычные запросы, но мы также видели примеры, которые были подделаны или которые мы не смогли воспроизвести. Прежде чем запустить эту новую функцию, мы провели тщательное тестирование и, как и в случае с другими функциями, которые мы запустили в Поиске, мы ценим отзывы. Мы предпринимаем быстрые действия, когда это необходимо, в соответствии с нашей политикой в ​​отношении контента и используем эти примеры для разработки более широких улучшений наших систем, некоторые из которых уже начали внедряться».

Кажется, что некоторые из этих обзоров ИИ будет трудно исправить, если их невозможно воспроизвести. Решением должны стать «более широкие улучшения», и, поскольку Google заявляет, что они уже в разработке, мы надеемся, что вскоре мы увидим улучшение результатов поиска. Нам придется посмотреть, отреагирует ли Google на ситуацию дальше этого заявления. После получения негативных отзывов о создании изображений в Gemini в начале этого года Google пришлось извиниться и удалить его, чтобы исправить проблемы.

На данный момент, однако, это хорошее напоминание о том, насколько осторожными нам нужно быть, доверяя механизмам искусственного интеллекта получение информации. Обзор Google AI начал распространяться для всех в США в начале этого месяца , а вскоре появится и в других странах. Но с такими ответами, возможно, больше людей будутискать способ отключить его, чем ожидал Google.