Чат-боты отправляются в Вашингтон вместе с губернатором ChatGPT
В понедельник в X-посте, комментируя внезапный успех DeepSeek, генеральный директор OpenAI Сэм Альтман пообещал «выпустить несколько релизов», и, похоже, он это сделал. Во вторник OpenAI представила свой новейший продукт — «специализированную версию ChatGPT, предназначенную для предоставления правительственным учреждениям США дополнительного способа доступа к передовым моделям OpenAI», согласно сообщению . Сообщается, что ChatGPT Gov предложит еще более строгие меры безопасности данных, чем ChatGPT Enterprise, но как он справится с галлюцинациями, от которых страдают другие модели компании?
По данным OpenAI, с начала 2024 года более 90 000 служащих федеральных органов власти, штатов и местных органов власти в 3500 агентствах запрашивали ChatGPT более 18 миллионов раз. Новая платформа позволит правительственным учреждениям вводить «закрытую, конфиденциальную информацию» в ChatGPT, пока он работает в их безопасных средах хостинга — в частности, в коммерческом облаке Microsoft Azure или облаке сообщества Azure для государственных учреждений — и в таких платформах кибербезопасности, как IL5 или CJIS. Это позволяет каждому агентству «управлять своими собственными требованиями к безопасности, конфиденциальности и соблюдению требований», — заявил журналистам на пресс-конференции во вторник Фелипе Миллон, руководитель государственных продаж OpenAI.
Deepseek R1 — впечатляющая модель, особенно с точки зрения того, что они могут предложить за свою цену.
мы, очевидно, будем выпускать гораздо лучшие модели, а также очень приятно иметь нового конкурента! мы поднимем некоторые выпуски.
— Сэм Альтман (@sama) 28 января 2025 г.
Компания также продемонстрировала во время пресс-конференции, что может делать ChatGPT Gov, работающий на базе модели GPT-4o . В демо-версии «федеральный служащий» вошел в ChatGPT, создал пятинедельный план своих должностных обязанностей, а затем проанализировал печатную версию того же пятинедельного плана, размеченную рукописными примечаниями и приложениями. Затем ChatGPT подготовил памятку для юридического отдела агентства и отдела соблюдения нормативных требований, в которой резюмировал свой план.
«Я знаю, что президент Трамп также рассматривает, как мы можем потенциально упростить это, потому что это один из способов внедрить в правительство более современные программные инструменты и помочь правительству работать более эффективно», — сказал CNBC CPO OpenAI Кевин Вейл. «Поэтому мы очень рады этому».
ChatGPT Gov в значительной степени построен на существующей платформе ChatGPT Enterprise , которая все еще проходит Федеральную программу управления рисками и авторизацией и еще не сертифицирована для обработки закрытых данных. Пока нет сроков, когда эта аккредитация может быть получена, но ИИ, скорее всего, не будет распространен среди реальных сотрудников агентства до того, как это произойдет.
Даже несмотря на то, что основное внимание уделяется данным и операционной безопасности, использование генеративного искусственного интеллекта для таких жизненно важных и чувствительных задач, как функционирование правительства, создает уникальные и сложные проблемы. Мы уже видели , как несколько адвокатов были пойманы на использовании чат-ботов для « проведения исследований », в результате чего они ссылались на галлюцинации из прецедентного права , а полиция полагалась на ложные доказательства, основанные на искусственном интеллекте, чтобы неправомерно арестовывать людей . Избиратели Калифорнии также недавно отвергли меру , которая возложила бы на ИИ ответственность за вынесение приговоров об освобождении под залог.
Более того, исследование HAI, проведенное в Стэнфорде в 2024 году, показало, что популярные правовые модели Thomas Reuters и LexisNexis, которые обещают «юридические исследования без галлюцинаций», на самом деле галлюцинируют в своих ответах — в 34% и 17% случаев соответственно. Авторы исследования отмечают, что это по-прежнему значительное улучшение по сравнению с чат-ботами общего назначения, которые галлюцинировали ответы на юридические вопросы в 58–82% случаев.
Объявление OpenAI прозвучало всего через несколько часов после того, как DeepSeek представила V3 , свою новейшую генеративную модель, которая обеспечивает производительность, сопоставимую с современной моделью рассуждения OpenAI o1, потребляя при этом в 20–50 раз меньше энергии, в зависимости от задачи. Этим открытием китайский стартап вверг американскую индустрию искусственного интеллекта в замешательство , поставив под сомнение необходимость постоянно строить все больше и больше центров обработки данных и электростанций, если более эффективный код искусственного интеллекта сможет добиться того же. Nvidia, ведущий мировой поставщик графических процессоров, специализированных процессоров, которые требуются системам искусственного интеллекта для обучения и задач вывода, потеряла 600 миллиардов долларов рыночной капитализации в ответ на новости DeepSeek. Стоимость акций компаний газовой и атомной энергетики также снизилась.