Упс — демонстрация Google Bard AI опровергнута первым результатом поиска

Дядя Влад

Это пьянящие дни, если вы следите за миром искусственного интеллекта (ИИ). ChatGPT завоевывает мир, Microsoft добавляет свою технологию в Bing , а Google работает над собственным ИИ под названием Bard .

За исключением того, что Bard может быть не совсем готов к прайм-тайму — и Google только что доказал это во время собственной технологической демонстрации. Упс.

Сообщение в блоге Google, в котором обсуждается технология искусственного интеллекта LaMBDA, отображаемая на экране смартфона.

Ошибка возникла во время слайда, объясняющего, как Бард может помочь человеку объяснить новые открытия космического телескопа Джеймса Уэбба (JWST) своему девятилетнему ребенку. Кажется достаточно простым, вы можете подумать.

Однако Бард сделал следующие три предложения:

  • В 2023 году JWST обнаружил ряд галактик, получивших прозвище «зеленый горошек».
  • Телескоп сделал снимки галактик, возраст которых превышает 13 миллиардов лет.
  • JWST сделал самый первый снимок планеты за пределами нашей Солнечной системы.

Это последняя запись, которая взъерошила некоторые перья. Это потому, что первая фотография планеты за пределами нашей Солнечной системы (также известной как экзопланета) была сделана еще в 2004 году Очень Большим Телескопом (VLT).

К сожалению, простой поиск в Google подскажет нам, что JWST на самом деле не «сделал самую первую фотографию планеты за пределами нашей Солнечной системы». а это буквально в рекламе Барда, так что я бы пока не доверял https://t.co/OS8AMyLQRu

– Изабель Анджело (@IsabelNAngelo) 7 февраля 2023 г.

Как пояснили в НАСА, на этом изображении экзопланета 2M1207b вращается вокруг коричневого карлика . Это не только делает его первым изображением экзопланеты, но также означает, что 2M1207b — первая экзопланета, вращающаяся вокруг коричневого карлика. Это двойной удар, который, к сожалению, остался незамеченным Бардом.

Как указывает астрофизик к.т.н. студентка Изабель Анджело в Твиттере, ирония в том, что быстрый поиск в Google мог бы предотвратить эту проблему. Простой поиск «первой фотографии экзопланеты» ставит страницу НАСА на первое место в списке.

Тем не менее, Бард был не так уж далек. В сентябре 2022 года JWST впервые сфотографировал экзопланету (в данном случае это была экзопланета HIP 65426 b). Но, как известно любому свободно говорящему по-английски, существует огромная разница между словами «JWST сделал самый первый снимок экзопланеты» и «JWST сделал свой первый снимок экзопланеты».

Впереди ухабистая дорога

Скриншот Google Bard, отвечающего на вопрос.

Это отсутствие нюансов удачно подчеркивает некоторые опасения, связанные с растущей ролью ИИ в повседневной жизни. Если такие вещи, как Bard и ChatGPT, будут интегрированы в поисковые системы, они должны быть не только быстрыми, но и точными. В противном случае простой поиск может заразить вас ложной информацией без какого-либо намека на то, что это произошло.

В конце концов, демонстрация Google не требовала от вас посещения хитроумного веб-сайта с сомнительными заявлениями, которые могли бы вызвать тревожные сигналы. Вместо этого ответы на поставленный вопрос оформлены так, как будто они исходят непосредственно от самого Google. Учитывая глобальный охват Google и известность имени, это может сделать информацию, которую он выдает, гораздо более правдоподобной, даже если она совершенно неверна.

Очевидно, что поисковым ИИ нужно много работать, прежде чем к ним можно будет относиться более чем с крошечной йотой доверия. Сам Google заявляет, что не собирается выпускать Bard, пока не достигнет «высокой планки безопасности». Ясно, что до этого еще далеко.