Почему ИИ никогда не будет править миром

Назовите это гипотезой Скайнета, общим искусственным интеллектом или появлением сингулярности — в течение многих лет как эксперты по ИИ, так и неспециалисты беспокоились (и, для небольшой группы, праздновали) мысль о том, что искусственный интеллект однажды может стать умнее, чем люди.

Согласно теории, достижения в области искусственного интеллекта, особенно в области машинного обучения, способного принимать новую информацию и соответствующим образом переписывать ее код, в конечном итоге догонят «программное обеспечение» биологического мозга. В этой интерпретации событий каждое продвижение ИИ от компьютеров IBM, победивших в опасности , до массивной языковой модели ИИ GPT-3 приближает человечество на один шаг к экзистенциальной угрозе. Мы буквально строим наших преемников, которые скоро станут разумными .

За исключением того, что этого никогда не произойдет. По крайней мере, так считают авторы новой книги « Почему машины никогда не будут править миром: искусственный интеллект без страха» .

Соавторы, профессор философии из Университета Буффало Барри Смит и Йобст Ландгребе , основатель немецкой компании по искусственному интеллекту Cognotekt, утверждают, что человеческий интеллект не уступит место «бессмертному диктатору» ни в ближайшее время, ни когда-либо. Они рассказали Digital Trends свои причины.

Digital Trends (DT): Как эта тема попала в поле вашего зрения?

Йобст Ландгребе (ДЛ): По образованию я врач и биохимик. Когда я начинал свою карьеру, я проводил эксперименты, которые генерировали много данных. Я начал изучать математику, чтобы иметь возможность интерпретировать эти данные, и увидел, как сложно моделировать биологические системы с помощью математики. Всегда существовало это несоответствие между математическими методами и биологическими данными.

Когда мне было за тридцать, я оставил академию и стал бизнес-консультантом и предпринимателем, работающим в области программных систем искусственного интеллекта. Я пытался создать системы искусственного интеллекта, чтобы имитировать то, что могут делать люди. Я понял, что столкнулся с той же проблемой, что и несколько лет назад в биологии.

Клиенты сказали мне: «Почему бы вам не создавать чат-ботов?» Я сказал: «Потому что они не будут работать; мы не можем правильно смоделировать этот тип системы». В конечном итоге это привело меня к написанию этой книги.

Профессор Барри Смит (бакалавр наук): Я подумал, что это очень интересная задача. У меня уже были подозрения о подобных проблемах с ИИ, но я никогда их не обдумывал. Сначала мы написали статью под названием « Возвращение искусственного интеллекта в смысл ». (Это было в эпоху Трампа.) Это было о том, почему нейронные сети не подходят для языкового моделирования. Затем мы решили расширить статью до книги, исследующей эту тему более глубоко.

Д.Т.: Ваша книга выражает скептицизм по поводу того, что нейронные сети, имеющие решающее значение для современного глубокого обучения, эмулируют человеческий мозг. Это приблизительные, а не точные модели того, как работает биологический мозг. Но согласны ли вы с основной предпосылкой, что возможно, что, если бы мы достаточно подробно изучили мозг, его можно было бы воспроизвести искусственно — и что это дало бы начало разуму или разуму?

ДжЛ: Название «нейронная сеть» совершенно неправильное. Нейронные сети, которые у нас есть сейчас, даже самые сложные, не имеют ничего общего с тем, как работает мозг. Представление о том, что мозг представляет собой набор взаимосвязанных узлов, подобно тому, как строятся нейронные сети, совершенно наивно.

Если вы посмотрите на самую примитивную бактериальную клетку, мы до сих пор не понимаем даже, как она работает. Мы понимаем некоторые его аспекты, но у нас нет модели того, как он работает, не говоря уже о нейроне, который намного сложнее, или о миллиардах нейронов, связанных между собой. Я считаю, что с научной точки зрения невозможно понять, как работает мозг. Мы можем понять только определенные аспекты и иметь дело с этими аспектами. У нас нет и не будет полного понимания того, как работает мозг.

Если бы у нас было идеальное понимание того, как работает каждая молекула мозга, мы, вероятно, смогли бы воспроизвести это. Это означало бы свести все к математическим уравнениям. Затем вы можете воспроизвести это с помощью компьютера. Проблема только в том, что мы не можем записать и составить эти уравнения.

БС: Многие из самых интересных вещей в мире происходят на уровне детализации, к которому мы не можем приблизиться. У нас просто нет оборудования для визуализации, и, вероятно, у нас никогда не будет оборудования для визуализации, чтобы зафиксировать большую часть того, что происходит на очень тонких уровнях мозга.

Это означает, что мы не знаем, например, что отвечает за сознание. На самом деле существует ряд довольно интересных философских проблем, которые, согласно методу, которому мы следуем, всегда будут неразрешимы, и поэтому их следует просто игнорировать.

Другое дело свобода воли. Мы очень сильно поддерживаем идею о том, что у людей есть воля; у нас могут быть намерения, цели и так далее. Но мы не знаем, является ли это свободной волей. Это проблема, связанная с физикой мозга. Что касается имеющихся у нас свидетельств, то у компьютеров не может быть воли.

Д.Т.: Подзаголовок книги — «искусственный интеллект без страха». О каком конкретном страхе вы говорите?

БС: Это было спровоцировано литературой по сингулярности, с которой, я знаю, вы знакомы. Ник Бостром, Дэвид Чалмерс, Илон Маск и им подобные. Когда мы разговаривали с нашими коллегами в реальном мире, нам стало ясно, что среди населения действительно существует определенный страх, что ИИ в конечном итоге захватит власть и изменит мир в ущерб людям.

У нас в книге довольно много аргументов типа Бострума. Основной аргумент против них заключается в том, что если у машины не может быть воли, то у нее не может быть и злой воли. Без злой воли бояться нечего. Теперь, конечно, мы все еще можем бояться машин, так же как и оружия.

Но это потому, что машинами управляют люди со злыми намерениями. Но тогда это не ИИ зло; это люди, которые создают и программируют ИИ

Д.Т.: Почему это понятие сингулярности или искусственного всеобщего интеллекта так интересует людей? Боятся ли они этого или очарованы, в этой идее есть что-то, что находит отклик у людей на широком уровне.

ДЛ: Есть идея, возникшая в начале 19-го века, а затем провозглашенная Ницше в конце того же века, что Бог мертв. Поскольку элиты нашего общества больше не христиане, им нужна была замена. Макс Штирнер, который был, как и Карл Маркс, учеником Гегеля, написал об этом книгу, сказав: «Я сам себе бог».

Если вы Бог, вы также хотите быть творцом. Если бы вы могли создать сверхразум, тогда вы были бы подобны Богу. Я думаю, это связано с гипер-нарциссическими тенденциями в нашей культуре. Мы не говорим об этом в книге, но это объясняет мне, почему эта идея так привлекательна в наше время, когда больше нет трансцендентной сущности, к которой можно было бы обратиться.

ДТ: Интересно. Итак, чтобы довести это до конца, это идея о том, что создание ИИ — или цель создания ИИ — это нарциссический акт. В таком случае идея о том, что эти творения каким-то образом станут более могущественными, чем мы, является кошмарным поворотом. Это ребенок убивает родителя.

ДЛ: Что-то вроде этого, да.

Д.Т.: Что для вас стало бы конечным итогом вашей книги, если бы все были убеждены вашими аргументами? Что это будет означать для будущего развития ИИ?

ДЛ: Это очень хороший вопрос. Я могу точно сказать вам, что, по моему мнению, произойдет – и произойдет. Я думаю, что в среднесрочной перспективе люди примут наши аргументы, и это создаст более прикладную математику.

Все великие математики и физики полностью осознают ограниченность того, чего они могут достичь математически. Поскольку они осознают это, они сосредотачиваются только на определенных проблемах. Если вы хорошо осознаете ограничения, то вы идете по миру и ищете эти проблемы и решаете их. Вот как Эйнштейн нашел уравнения броуновского движения; как он придумал свои теории относительности; как Планк решил проблему излучения черного тела и таким образом положил начало квантовой теории материи. У них было хорошее чутье на то, какие проблемы поддаются решению с помощью математики, а какие нет.

Если люди узнают смысл нашей книги, мы верим, что они смогут разрабатывать более совершенные системы, потому что они сосредоточатся на том, что действительно возможно, и перестанут тратить деньги и усилия на то, чего невозможно достичь.

БШ: Я думаю, что некоторые сообщения уже доходят до нас, не из-за того, что мы говорим, а из-за опыта людей, когда они вкладывают большие суммы денег в проекты ИИ, а затем проекты ИИ терпят неудачу. Думаю, вы знаете об Объединенном центре искусственного интеллекта. Я не помню точную сумму, но, кажется, что-то около 10 миллиардов долларов, которые они дали известному подрядчику. В итоге у них ничего не вышло. Они расторгли контракт.

(Примечание редактора: JAIC, подразделение Вооруженных сил США, предназначалось для ускорения «поставки и внедрения ИИ для масштабного воздействия на миссию». , с двумя другими офисами в июне этого года. JAIC перестала существовать как самостоятельная организация.)

ДТ: Как вы думаете, какой самый убедительный аргумент вы приводите в своей книге?

БС: Каждая система ИИ по своей природе является математической. Поскольку мы не можем математически смоделировать сознание, волю или интеллект, их нельзя эмулировать с помощью машин. Следовательно, машины не станут разумными, не говоря уже о сверхразумных.

ДЛ: Структура нашего мозга допускает только ограниченные модели природы. В физике мы выбираем подмножество реальности, которое соответствует нашим возможностям математического моделирования. Именно так Ньютон, Максвелл, Эйнштейн или Шредингер получили свои знаменитые и прекрасные модели. Но они могут описать или предсказать только небольшой набор систем. Наши лучшие модели — это те, которые мы используем для разработки технологий. Мы не в состоянии создать полную математическую модель живой природы.

Это интервью было отредактировано для увеличения длины и ясности.