OpenAI создает новую команду, чтобы не дать суперинтеллектуальному ИИ выйти из-под контроля

Если люди, находящиеся в авангарде технологий искусственного интеллекта, комментируют потенциальные катастрофические последствия высокоинтеллектуальных систем ИИ, то, вероятно, будет мудро сесть и обратить на это внимание.

Всего пару месяцев назад Джеффри Хинтон, человек, которого считают одним из «крестных отцов» ИИ за его новаторскую работу в этой области, сказал, что быстрый темп развития технологии означает, что «не исключено» , что сверхразумный ИИ — считается превосходящим человеческий разум — может в конечном итоге уничтожить человечество.

А Сэм Альтман, генеральный директор OpenAI, компании, разработавшей вирусный чат-бот ChatGPT , признался, что «немного напуган» потенциальным воздействием передовых систем ИИ на общество.

Альтман настолько обеспокоен, что в среду его компания объявила о создании нового подразделения под названием Superalignment, призванного гарантировать, что сверхразумный ИИ не приведет к хаосу или чему-то гораздо худшему.

«Сверхразум станет самой эффективной технологией, которую когда-либо изобретало человечество, и может помочь нам решить многие из самых важных мировых проблем», — говорится в сообщении OpenAI, представляющем новую инициативу. «Но огромная сила сверхразума также может быть очень опасной и может привести к бесправию человечества или даже к его исчезновению».

OpenAI заявила, что, хотя сверхразумный ИИ может показаться далеким, она считает, что его можно будет разработать к 2030 году. И она с готовностью признает, что в настоящее время не существует системы «для управления или контроля потенциально сверхразумного ИИ и предотвращения его выхода из негодяй."

Чтобы справиться с ситуацией, OpenAI хочет создать «автоматизированного исследователя выравнивания примерно на уровне человека», который будет выполнять проверки безопасности сверхразумного ИИ, добавляя, что управление этими рисками также потребует новых институтов управления и решения проблемы выравнивания сверхразума.

Чтобы Superalignment возымела эффект, OpenAI необходимо собрать первоклассную команду ведущих исследователей и инженеров в области машинного обучения.

Компания кажется очень откровенной в отношении своих усилий, описывая их как «невероятно амбициозную цель», а также признавая, что «не гарантируется успех». Но он добавляет, что «оптимистично, что целенаправленные, согласованные усилия могут решить эту проблему».

Новые инструменты искусственного интеллекта, такие как ChatGPT от OpenAI и Bard от Google, среди многих других, настолько революционны, что эксперты уверены, что даже на этом уровне, предшествующем сверхразуму, рабочее место и общество в целом столкнутся с фундаментальными изменениями в ближайшем будущем.

Именно поэтому правительства во всем мире пытаются наверстать упущенное, поспешно вводя правила для быстро развивающейся индустрии искусственного интеллекта, стремясь обеспечить безопасное и ответственное развертывание технологии. Однако, если не будет сформирован единый орган, у каждой страны будут свои взгляды на то, как лучше всего использовать эту технологию, а это означает, что эти правила могут сильно различаться и приводить к заметно разным результатам. И именно эти разные подходы сделают достижение цели Супервыравнивания еще более трудным.