Создатель ChatGPT запускает программу вознаграждения за обнаружение ошибок с денежным вознаграждением

ChatGPT еще не настолько умен, чтобы находить собственные недостатки, поэтому его создатель обращается за помощью к людям.

Во вторник OpenAI представила программу вознаграждения за обнаружение ошибок, призывающую людей находить и сообщать об уязвимостях и ошибках в своих системах искусственного интеллекта, таких как ChatGPT и GPT-4 .

В сообщении на своем веб-сайте с изложением подробностей программы OpenAI сообщила, что вознаграждение за отчеты будет варьироваться от 200 долларов за результаты с низкой серьезностью до 20 000 долларов за то, что они назвали «исключительными открытиями».

Компания, поддерживаемая Microsoft, заявила, что ее целью является создание систем ИИ, которые «принесут пользу всем», добавив: «С этой целью мы вкладываем значительные средства в исследования и разработку, чтобы обеспечить безопасность и надежность наших систем ИИ. Однако, как и в случае с любой сложной технологией, мы понимаем, что могут возникнуть уязвимости и недостатки».

Обращаясь к исследователям безопасности, заинтересованным в участии в программе, OpenAI заявила, что признает «критическую важность безопасности и рассматривает ее как совместную работу. Поделившись своими выводами, вы сыграете решающую роль в том, чтобы сделать наши технологии более безопасными для всех».

Поскольку все больше и больше людей используют ChatGPT и другие продукты OpenAI, компания стремится быстро отследить любые потенциальные проблемы, чтобы обеспечить бесперебойную работу систем и предотвратить использование любых слабых мест в гнусных целях. Поэтому OpenAI надеется, что, взаимодействуя с техническим сообществом, он сможет решить любые проблемы до того, как они станут более серьезными проблемами.

У калифорнийской компании уже был один случай , когда из-за уязвимости были раскрыты заголовки разговоров некоторых пользователей, хотя они должны были оставаться приватными.

Сэм Альтман, генеральный директор OpenAI, сказал после инцидента в прошлом месяце, что он считает нарушение конфиденциальности «серьезной проблемой», добавив: «Мы ужасно переживаем из-за этого». Теперь это исправлено.

Ошибка стала еще большей проблемой для OpenAI, когда Италия выразила серьезную озабоченность по поводу нарушения конфиденциальности и решила заблокировать ChatGPT на время проведения тщательного расследования. Итальянские власти также требуют подробностей о мерах, которые OpenAI намеревается предпринять, чтобы предотвратить повторение подобного.