Новейшие инструменты обработки изображений ChatGPT вызывают еще одну вирусную и жуткую тенденцию

Ранее на этой неделе создатель ChatGPT OpenAI представил пару новых моделей рассуждения, которые, по его утверждению, способны «думать образами». Одновременно с этим функциональные модели также используются для выполнения увлекательных побочных квестов, включая использование ChatGPT для определения местоположений, показанных на фотографиях, также известное как геолокация, которая, если не использовать ее ответственно, может превратиться в кошмар конфиденциальности.

После выпуска моделей опытные пользователи осознали свою способность определять местоположения на фотографиях с ограниченным дополнительным вводом данных. Из двух моделей o3 — более продвинутая — кажется, владеет этим навыком, и мы уже могли быть свидетелями зарождения еще одной вирусной тенденции, начатой ​​ChatGPT .

Модели могут редактировать изображения, включая их обрезку или масштабирование, для извлечения информации. Множественные примеры демонстрируют его способность определять местонахождение (предположительно) любого места на поверхности Земли даже при наличии препятствий, в том числе людей, на пути к центральному притяжению этого места. Похоже, что модель отвечает точными географическими координатами и названием места, и этот трюк, похоже, работает и с изображениями внутри помещения.

Доцент Wharton и влиятельный человек X Итан Моллик подтвердил, что модель не просто извлекает информацию с геотегами из фотографий, а вместо этого все думает сама. Как и любая модель искусственного интеллекта, она склонна к неправильным ответам, особенно при ограниченном количестве сигналов, таких как одно изображение. Но даже если с первого раза она определяет неправильное местоположение, модель настойчиво пытается разрезать изображения, пока вы не подтвердите, что она определила правильное местоположение, как продемонстрировал пользователь X Бретт Купер .

Хотя геолокация — это веселое и увлекательное занятие , оно в основном предназначено только для экспертов, которые, как мы надеемся, используют свои сверхспособности, чтобы ответственно угадать точное географическое местоположение по одной фотографии. Однако последнее обновление ChatGPT делает этот процесс простым и легким для всех, у кого есть доступ к новейшим моделям.

Помимо сомнений и возможностей, это конкретное достижение представляет собой огромный потенциальный риск злоупотребления, особенно при отсутствии каких-либо барьеров, предотвращающих несанкционированное использование для определения чьего-либо местоположения. При этом путь от киберпреследования к преследованию в физической сфере может занять всего несколько минут, и мы надеемся, что OpenAI предпримет правильные шаги для решения этой проблемы.