Проиграв ИИ, я чувствую, что весь мой мир рухнул.

Об этом Ли Седоль заявил в недавнем интервью New York Times .

В 2016 году 14-кратный чемпион мира корейский шахматист представлял людей в игре против AlphaGo от Google и в итоге проиграл 1:4.

Когда он принял приглашение, он подумал, что это будет «весёлый» опыт:

Предпосылка веселья заключается в том, что я думаю, что выиграю. Я никогда не думал, что проиграю.

Вероятно, это было одним из самых важных моментов перед тем, как технология искусственного интеллекта дебютировала в ChatGPT.

Прошло менее двух лет с момента выпуска ChatGPT. Мы видели, как искусственный интеллект затронул многие области, и, похоже, грядут перемены в большем количестве аспектов жизни. Мы не можем не размышлять и представлять себе будущее. ИИ.

В этом контексте мир Го, на который ИИ повлиял раньше, чем на другие отрасли и области, может помочь нам увидеть возможность, которая уже произошла.

После победы над людьми более сильный ИИ еще больше дегуманизирует

Я больше не мог наслаждаться го и ушел на пенсию.

Через три года после игры против AlphaGo Ли Седоль официально объявил о завершении карьеры.

Для Ли Седоля, который начал изучать Го в 5 лет, Го — это не просто соревнование, а искусство, продолжение личности и стиля игрока. Однако в эпоху ИИ оно «свелось» к этому. игра на алгоритмическую эффективность.

За эти три года произошло еще одно событие.

В 2017 году DeepMind анонсировала новую версию AlphaGo — AlphaGo Zero.

AlphaGo родилась в результате обучения нейронной сети и самостоятельной практики более 30 миллионов движений людьми-мастерами, но AlphaGo Zero с самого начала была отделена от «человеческого прикосновения». В период обучения она ни с кем не контактировала. человеческие шахматные рекорды и полагались исключительно на себя и свою собственную шахматную подготовку.

Всего за три дня AlphaGo Zero уже выиграла у AlphaGo со счетом 100:0.

The Atlantic называет это «ИИ, которому не нужно ничему учиться у людей».

В Го есть техника, которая кажется простой или несущественной, но в долгосрочной перспективе может представлять смертельную угрозу. Некоторые люди сказали бы, что она похожа на «призрак».

Игровые записи AlphaGo и AlphaGo Zero настолько сложны для понимания, что их прямо считают «таинственным проводником, сброшенным инопланетной цивилизацией».

Американский профессиональный шахматист Майкл Редмонд сказал в 2017 году, что одним из важных способов изучения го для людей является создание истории: «Вот как мы общаемся. Это очень человеческое дело».

Это также может отражать точку зрения Ли Седоля о том, что, играя в шахматы, шахматисты также частично проявляют себя как человеческие существа.

Редмонд добавил, что, по его собственным наблюдениям, шахматисты-люди, скорее всего, «поднимут руки и сдадутся», когда впервые увидят шахматы «с привкусом ИИ»:

То, как AlphaGo играет в шахматы, всегда кажется очень «бесчеловечным». Столкнувшись с такой шахматной игрой, нам даже трудно вмешаться.

Ли Седоль, один из первых мастеров го, на которого это повлияло, долгое время не мог отпустить ситуацию.

Он стал одержим искусственным интеллектом.

После выхода на пенсию, помимо открытия собственной академии Го, издания книг и запуска настольных игр на основе Го, Ли Седоль также начал читать лекции по искусственному интеллекту :

Я очень рано начал сталкиваться с проблемами ИИ, и другие тоже столкнутся с ними. Это не может привести к счастливому концу.

По его мнению, наиболее тревожным аспектом ИИ является то, что он может изменить человеческие ценности:

В прошлом люди восхищались креативностью, оригинальностью и инновациями, но с появлением ИИ многое из этого исчезло.

Не все согласны с этим утверждением.

Эпоха совместного творчества человека и машины

ИИ разрушил весь существовавший порядок в мире Го, а затем начал его восстанавливать.

— сказал Цзюхэн Хэ, энтузиаст го, изучающий искусственный интеллект в Корнелльском университете.

Во многих академиях го использование ИИ для изучения го — это процесс, через который должны пройти почти все игроки .

В академии Го в Гонконге Нг Чи Ман предоставляет студентам iPad для изучения Го с использованием искусственного интеллекта.

Каждый раз, когда ученик играет в шахматы, ИИ показывает предложения «лучшего хода». В то же время система также записывает, какие ходы ученик сделал хорошо, а какие — неудачно.

В прошлом году исследование , опубликованное в журнале Proceedings of the National Academy of Sciences, показало, что с тех пор, как ИИ вошел в сферу го, способность к суждению игроков-людей улучшилась.

Еще в 2016 году, до того, как AlphaGo победила Ли Седоля, аналогичный опыт имел Фань Хуэй, игравший против AlphaGo в частном тесте.

Хоть он и проиграл, Фань Хуэй сказал, что AlphaGo позволила ему взглянуть на го по-новому, улучшила свои навыки и позволила ему быстро подняться в мировом рейтинге.

Исследование 2023 года основано на шахматных рекордах, накопленных с 1950 по 2021 год, включая данные о 5,8 миллионах раздач.

Исследователи обнаружили, что до того, как AlphaGo победила Ли Седоля, качество суждений шахматистов оставалось стабильным и практически неизменным в течение 66 лет. Однако в течение 2016 и 2017 годов качество суждений шахматистов начало расти.

Другими словами, хотя шахматисты-люди, возможно, и не смогут победить шахматистов с искусственным интеллектом, их навыки суждения действительно улучшились.

Очень вдохновляюще видеть, как быстро шахматисты могут адаптироваться и включать эти новые ходы в свои собственные методы.

Эти результаты предполагают, что люди адаптируются к этим открытиям и будут опираться на них, чтобы значительно улучшить свой потенциал.

Дэвид Сильвер, главный научный сотрудник DeepMind и руководитель проекта AlphaGo , прокомментировал это исследование.

Кэ Цзе, потерпевший поражение от AlphaGo в 2017 году, также заявил в 2023 году, что редко тренируется с реальными людьми, за исключением соревнований, и считает, что ИИ даже стал источником творчества в Го:

Креативность – это не просто создание чего-то другого. Креативность должна быть применена в реальном бою и протестирована. В настоящее время большая часть инноваций в Го создается искусственным интеллектом. Если мы хотим играть в какие-то игры, которые отличаются от тех, что были раньше, существует высокая вероятность. что мы проиграем, потому что ИИ проходит много реальных боевых действий, и придумывать другое мышление, чем раньше, это творчество.

Кроме того, особый интерес представляет выступление еще одного профессионального шахматиста.

Корейский шахматист Шин Джин Джин – первый шахматист после 2000 года, выигравший чемпионат мира. Любители шахмат часто называют его «интеллектом Шэнь Гонга», потому что он известен своими многолетними тренировками и исследованиями в области искусственного интеллекта.

В феврале этого года Шин Джин Сок победил китайского капитана Гу Цзихао на 25-м Кубке Ноншим, одержав шесть побед подряд в одном сезоне и 16 побед подряд в разных сезонах, превзойдя своего предшественника Ли Чан Хо. В марте этого года он рассказал о своих отношениях с AI :

Я чувствую, что мы с ИИ теперь друзья.

Я учился у ИИ, которые были лучше меня. ИИ и человеческое мышление совершенно разные. ИИ решает проблемы с помощью математических алгоритмов. Я получил много пользы от обучения мышлению ИИ.

Теперь профессиональные игроки в Китае, Южной Корее и Японии будут использовать ИИ для тренировок.

Апокалипсис «Вкус ИИ»

Как и в эпоху генеративного ИИ, некоторым дизайнерам и авторам приходится проводить сложную самосертификацию из-за содержащегося в их работах так называемого «привкуса ИИ», который уже давно интегрирован с ИИ. также столкнулся с появлением «аромата искусственного интеллекта» различных проблем.

В современных играх го искусственный интеллект часто используется для прогнозирования вероятности выигрыша и рекомендует лучший ход. Таким образом, зрители могут получить своего рода «инициативу» в процессе просмотра игры и иметь несколько углов обзора.

В 2022 году во время матча с Шэнь Чжэньчжэнем китайский шахматист Ли Сюаньхао принял множество решений, которые соответствовали тройке лучших, предсказанной оптимальным суждением ИИ. Поэтому его товарищ по команде Ян Динсинь усомнился в своих подозрениях в мошенничестве с ИИ .

Ли Сюаньхао, родившийся в 1995 году, «работает с девяти до девяти круглый год и очень усердно работает» над обучением ИИ. Поэтому шахматную игру иногда считают имеющей так называемый «машинный привкус».

Что касается сомнений, Китайская ассоциация го провела расследование и, наконец, установила, что обвинение не имеет доказательств, и Ян Динсинь наложил штрафы.

Но случаи мошенничества с ИИ существуют.

В 2020 году было обнаружено, что у 13-летнего профессионального шахматиста из Южной Кореи Ким Ын Чи его ходы в онлайн-матчах и рекомендации ИИ совпадают на 92%. После расследования было окончательно установлено, что он жульничал (и он это признал), оштрафовали и отстранили от работы на один год.

В 2022 году китайский шахматист Лю Жуйчжи был признан виновным в мошенничестве с искусственным интеллектом и стал первым профессиональным шахматистом в Китае, официально наказанным за мошенничество с искусственным интеллектом. По сравнению с Ким Ын Чи, Лю Жуйчжи научился избегать «привкуса ИИ» и использует ИИ только в некоторых ключевых моментах.

В ответ на соревнования в разных странах постоянно совершенствуются механизмы борьбы с мошенничеством ИИ.

В то же время некоторые люди использовали «аромат ИИ», чтобы победить ИИ.

В 2023 году американская шахматистка-любитель Келлин Пелрин победила Go AI KataGo .

KataGo — один из самых мощных доступных искусственных интеллектов для го с открытым исходным кодом, и Южная Корея также будет использовать его для обучения игроков в го.

Пелрин использовал программу под названием FAR AI, чтобы сыграть против KataGo более 1 миллиона игр. Наконец, FAR AI обнаружил слабые места KataGo, отработал их в дуэли человек-машина и победил:

Эта стратегия не совсем детская, но и научиться ей не особенно сложно.

Затем он использовал тот же метод, чтобы победить Лилу Зеро, еще одного более мощного ИИ Го.

Ключ к стратегии — создать большой «круг», чтобы окружить группу шахматных фигур противника, а затем внезапно переместить фигуру в другой несвязанный угол, чтобы помешать ИИ.

Пелрин сказал, что если бы это был человек-шахматист, он бы точно понял, что что-то не так, когда увидел круг, но ИИ этого не заметил бы.

Эта слабость кажется немного «хитрой». Можно ли ее исправить, позволив ИИ проводить целенаправленное обучение?

В отчете журнала Nature на прошлой неделе цитировался препринт этого года и отмечалось, что в программах, которые специально ищут слабые места ИИ, уязвимости моделей исправить не так легко, как предполагалось.

На этот раз «мишенью» стала KataGo. Исследователи использовали три разные стратегии, чтобы сделать KataGo более способным к контратакам:

• Пусть KataGo научится реагировать на атаки посредством самостоятельной игры;
• Итеративное обучение: использование программы атаки для атаки KataGo, передача уязвимости обратно в KataGo, позволить ему научиться справляться с ней посредством самостоятельной игры или другими методами, а затем использовать программу атаки для атаки KataGo, повторяя цикл;
• Обучите новую систему Go AI с нуля, используя другую модель нейронной сети.

Хотя эти тренировки помогли KataGo в определенной степени улучшить свои защитные возможности, программа атаки все еще может найти лазейки и победить KataGo с вероятностью победы 91%, 81% и 78% соответственно.

Эти атакующие программы сами по себе не являются отличными ИИ Go, и люди могут легко победить их.

Конечно, главное здесь не в том, чтобы соревноваться, кто лучше: люди или ИИ.

Дело в том, что в Го, области, которую ИИ «извратил», и после стольких лет применения и совершенствования у ИИ все еще есть много проблем. Адам Глив, автор статьи, сказал:

Если мы не сможем решить эту проблему в одном домене, таком как Go, то в краткосрочной перспективе возможность исправить джейлбрейк в таких моделях, как ChatGPT, кажется маловероятной.

# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo