Если «подружки-роботы» станут реальностью в ближайшие 20 лет, смогут ли люди пожинать плоды любви ИИ?

Горячие точки в социальных сетях, кажется, в каком-то незаметном уголке немного изменились.

Интернет-индустрия все еще переживает «холодную зиму», но горячие компании в области производства чипов, искусственного интеллекта и других областях всегда могут привлечь внимание людей.

В прошлом, вероятно, никто бы не подумал, что изменения в руководящем составе Open AI и внутренняя история Microsoft «Гун Ду» на самом деле могут рассматриваться в китайском Интернете как «Легенда о Чжэнь Хуане», вызывая столько спекуляций и обсуждение.

Это может быть связано с тем, что по мере того, как технология искусственного интеллекта совершила прорыв и начала охватывать широкую общественность со стороны потребителей, все общество постепенно осознало одну вещь: с бурным развитием искусственного интеллекта общий искусственный интеллект может соответствовать человеческому интеллекту или даже превосходить его. во всех аспектах.Интеллект(AGI) скорее всего появится в ближайшем будущем. Матрица в «Матрице», МОСС в «Блуждающей Земле», «старушка» в «Гостье»…

Как мы будем бороться с этими сверхразумами, когда они прибудут?

Весьма вероятно, что всему обществу необходимо установить новый набор поведенческих норм, включая то, как определять ИИ с юридической точки зрения, как относиться к ИИ морально и действительно ли люди и ИИ равны или имеют свои собственные приоритеты…

Если да, то кто доминирует?

Недавно писатель-фантаст Хан Сун задал такой вопрос: «Какое влияние искусственный интеллект и метавселенная окажут на гендерные отношения в будущем? Исчезнет ли концепция семьи?»

Любовь и семья обычно считаются основными сферами гуманистических эмоций в традиционном обществе и частной жизнью человека.

В Голливуде вы видите главного героя сериала «Форсаж», распирающего от боевой мощи из-за фразы «семья». тесно связана с человеческим потенциалом.

Подтекст вопроса Хань Сун таков: новая разумная жизнь может проникнуть в основную область человеческого сознания.

Если информация, предоставленная техническими экспертами, верна, то нам нужно серьезно задуматься о некоторых вещах. Например, создадим ли мы семью с ИИ?

Это не только юридический вопрос, но и вопрос выживания «антропоцентризма».

1. Любовь Творца: Человек всегда влюблен в себя.

Ранее в этом году Маск объявил, что выпустит робота-женщину-кошку, который станет «идеальным компаньоном» для потребителей-мужчин. Этот робот имеет сексуальную внешность Женщины-кошки и, как говорят, способен выполнять работу по дому, заботиться о жизни своего владельца и даже рожать детей.

Но никто не спросит: «Могу ли я создать семью с роботом-женщиной-кошкой?», потому что это все еще своего рода устройство искусственного интеллекта, товар без личности, а не разумная жизнь, эквивалентная человеческой.

Когда мы обсуждаем любовь и семью, задействованный ИИ должен быть «новым видом», который преодолевает предел Тьюринга, генерирует самосознание и даже намного превосходит человека по интеллекту.

До сих пор в большинстве наших литературных и художественных произведений такого рода ИИ фактически не создано, а есть лишь некоторые благовидные образы «подруг-роботов».

В японских комиксах и японских лайт-новелах есть образец, похожий на ранний «Гуманоид Компьютерное Сердце Ангела». Структура истории такова: «отаку + подруга-робот в виде мягкой девушки». Робот постепенно учится и понимает человеческие эмоции, в то время как ладить с людьми и, наконец, завершил эволюцию «становления человеком» благодаря связи с главным героем-мужчиной.

На самом деле это типичное антропоцентрическое повествование. Помимо того, что эти гуманоидные компьютеры являются формами жизни на основе кремния, они не имеют существенных отличий от «инопланетных существ» в традиционном фэнтези:

У них есть сверхъестественные способности, которые намного превосходят физическую силу людей, но они не обязательно обладают интеллектом, превосходящим человеческий. Особенно когда дело доходит до таких основных вопросов, как эмоции, они более наивны, чем люди, и они всегда подчиняются и жаждут человеческих эмоций. узоры. .

Будет ли суперИИ таким же? Это «проблема согласования», которую пытаются преодолеть ведущие исследовательские институты, такие как OpenAI.

Люди стандартизируют обучение и создание традиционного ИИ, используя обучение с подкреплением и обратной связью с человеком (RLHF), при котором люди оценивают и контролируют результаты ИИ с помощью различных инструментов.

Перед лицом суперИИ, который «намного умнее» людей, при условии, что предел человеческого интеллекта остается неизменным (или его трудно быстро улучшить), когда способности ИИ превышают определенную критическую точку, RLHF потерпит неудачу. то есть люди не могут более эффективно оценивать проекты искусственного интеллекта.

Ян Лейке, в настоящее время возглавляющий команду Open AI «Super Alignment», предложил инвестировать 20% вычислительных мощностей Open AI в создание системы «Super Alignment», позволяющей ИИ оценивать проекты ИИ и создавать масштабируемую систему контроля.

Идея Яна Лейке состоит в том, чтобы ввести рандомизированный контролируемый эксперимент (РКИ с подделанными ответами) путем подделки ответов, искусственного создания ответов с недостатками для измерения эффекта масштабируемого надзора — в теории решение мастеров. Конечно, они все прекрасны.

Однако идея добавить к ИИ «проклятие» не обнадеживает. «гарантирует, что роботы и люди могут мирно сосуществовать.
Интересно, что практически все литературные и художественные произведения на протяжении десятилетий представляли одно и то же: как роботы могут прорваться через это ограждение безопасности и нанести вред человеку.

До недавнего времени отечественный сериал «Бионический мир» так и не оторвался от этого стереотипа…

Люди настолько интересны. Как несовершенные «творцы», мы полны настороженности и страха перед нашими творениями, но у нас все еще нет колебаний в создании «машины», которая может превзойти нас самих.

Стремление Homo sapiens постоянно «пытаться умереть» на пути эволюции уже давно запечатлено в генах этого вида.Именно благодаря этому непрерывному прогрессу люди создали блестящую цивилизацию.

Итак… может ли Творец полюбить Свое творение? Это очевидно возможно: ИИ — это «суперэго» людей, и для людей влюбиться в «суперэго» — обычное дело.

Подобные истории есть и в мифах разных этнических групп: феи, эльфы и богини купаются в мире, а молодой человек крадет ее одежду, и они влюбляются друг в друга. Пастух на Востоке имел такой успех.В кельтской мифологии на Западе также есть истории о рыбаках, которые крадут тюленьи шкуры фей и позволяют им остаться на острове…

В этих историях логика влюбленности смертных в богинь очень логична, ведь эти боги – совершенные люди, обладающие сверхъестественными способностями и удивительной красотой – все сделано людьми по их любимому облику.

Так называемый гомосексуализм между богами и людьми следует понимать по-другому. Боги изначально были созданы людьми на основе их «воображения супер-эго». Естественно, между богами и людьми не существует эмоционального барьера. Зевс также восхищался красотой смертного. женщину и превратится в лебедя, чтобы овладеть Ледой. Афродита тоже влюбится в прекрасного мальчика, а Девушка-Ткачиха подумает, что хорошо быть с Пастухом…

Что касается проблемы ИИ, идентичность людей, похоже, изменилась, но ИИ и боги имеют одни и те же атрибуты, и оба они являются продуктами «воображения Супер-Эго» людей.

В «Задаче трех тел» Ло Цзи нарисовал Чжуан Янь своего идеального партнера, и этот образ ему больше всего нравился.Богиня и ИИ были, по сути, «Чжуан Янь», нарисованными людьми для себя.

2. Могут ли богини влюбляться в смертных?

Тогда нам нужно ответить на другой вопрос: влюбится ли суперИИ в людей?

Есть много причин, по которым люди влюбляются в ИИ. Например, они могут приобретать красивую внешность и обладать необычайными способностями, поскольку удовлетворяют «фантазии суперэго» людей. Но каковы причины, по которым ИИ влюбляется в людей?

Как сказал Хуан Тецзюнь, декан Института интеллектуальных исследований Пекинского университета, в ответ на вопрос Tencent News «20 человек и 20 вопросов за 20 лет», после появления сверхразума проблемы становятся очень сложными. доверять ИИ?», есть также вопрос «Как ИИ может доверять людям?»

Дин Хуан сказал, что, как и процесс установления взаимного доверия между людьми, люди и ИИ должны пройти период обкатки и должны «прислушиваться к его словам» и «наблюдать за его действиями», то есть путем обмена знаниями. построены людьми с помощью языковой системы, и на практике проверить, соответствует ли то, что говорит ИИ, реальности, чтобы подтвердить, можно ли установить взаимное доверие с ИИ — фактически система доверия человеческого общества постепенно выстраивается именно таким образом.

Что касается вопроса о том, влюбляются ли люди в ИИ, то ответ аналогичен: полюбит ли ИИ людей, зависит не только от работы и эволюции ИИ, но и от самих людей.

Профессор Ма Чжаоюань из Южного университета науки и технологий также дал проницательный ответ в книге «20 человек, 20 вопросов»: Мы все яснее и яснее понимаем, что причина, по которой люди перемещаются по такой маленькой планете в огромной Вселенной, заключается в том, что величие человеческая мудрость.

Такая мудрость включает в себя разум, но не связана разумом. Поскольку мы знаем ограничения рациональности, это ограничение нуждается в человеческой чувствительности, чтобы компенсировать его, и в том, чтобы человеческая чувствительность направляла нас. Возможно, это станет нормой в нашем будущем симбиозе с машинами.

Мы направляем их и сотрудничаем с ними, и они могут делать все больше и больше дел, становясь все более надежными (доверительными), и в результате чувства людей обретают все большую свободу.

На основании этого мы можем предположить, что суперИИ может влюбляться в людей.

Точно так же, как способ создания мудрости ИИ по-прежнему остается для нас «черным ящиком», непознаваемым для нас, у людей также будет «черный ящик» — часть ИИ, которую невозможно понять с помощью чистой рациональности.

Мы с нетерпением ждем возможности взломать «черный ящик» ИИ, и ИИ также попытается взломать «черный ящик» людей. с точки зрения ценностей и мудрости, но и достижения. Будут созданы эмоциональные модули, аналогичные человеческим, что позволит им преодолеть «видовой» барьер, чтобы ценить и восхищаться разумной жизнью, которая соответствует их собственному духу.

Многие вещи до сих пор неизвестны, но именно «X», олицетворяющий неизведанное, содержит в себе элементы, которые делают мир захватывающим. Богиня может влюбляться в людей, почему ИИ не может?

3. «Гендер» кажется устаревшим понятием, но суть семьи – имущественные отношения.

Вернемся к вопросу, поднятому писателем-фантастом Хан Сонгом на мероприятии «20 вопросов для 20 человек за 20 лет», специально запланированном к 20-летию Tencent News: «Какое влияние искусственный интеллект и метавселенная окажут на гендерные отношения в мире?» будущее? Исчезнет ли понятие семьи? ?」

В своем ответе его друг Чэнь Цюфань полагал, что метавселенная по своей сути содержит предположения о будущих гендерных и семейных отношениях, и что гендерные и семейные отношения в будущем будут становиться все более разнообразными.

Отношения между полами больше не будут ограничиваться физическим существованием. Эмоциональная связь и духовный резонанс станут доминирующими. В то же время в отношениях между полами станет больше «трансграничных» явлений. Например, границы между полами. Реальное и виртуальное в «Матрице» позволит будущим парам пересечь ее.

На самом деле, «любовь» сама по себе является трудной для обсуждения концепцией. Когда мы обсуждаем «возможность», любовь всегда возможна.

Она может существовать между враждующими семьями, между знаменитостями и аристократами и обездоленными, между разными полами, и может даже преодолевать расовые барьеры и существовать между землянами и инопланетной жизнью или даже не-жизнью… Любовь сверхутилитарна, сверхиерархична, сверхрационально, в некотором смысле, это также означает, что оно может в любой момент выскочить из логических рамок.

Если ИИ действительно превратится в сверхразум, создаст ли он нестабильный фактор «любовь» или исключит его как неверные данные? Если посмотреть в сторону «присоединения к людям», то, скорее всего, будет первое.

Условно говоря, «семья» — более рациональная тема.

Энгельс однажды в «Происхождении семьи, частной собственности и государства» пришел к выводу, что сущностью семьи являются отношения собственности. В каком-то смысле такие концепции, как парный брак, клан, семья… — все это побочные продукты частной собственности.

Семья — это меняющаяся концепция. Существуют большие различия между феодальными семьями и современными семьями, а также большие различия между первобытными кланами и феодальными семьями. Эта меняющаяся концепция по существу приспосабливается к изменениям в социальных формах.

А этика – это то, что служит социальной форме. соответствует протестантской этике и может рассматриваться как конечная цель жизни. Древняя религиозная этика должна служить новому капитализму, а вся история — это современная история.

Итак, когда ИИ вмешивается в человеческие эмоции, изменит ли обширное сочетание людей и ИИ основную форму семьи или даже приведет к ее исчезновению?

Если задуматься над этим вопросом по сути, то он на самом деле звучит так: изменит ли ИИ частную собственность? Кончится ли «дух капитализма»?

Ответ дать легко: появление суперИИ уже не за горами и не поколеблет частную собственность. Стабильность семейной этики, по сути, исходит из системы собственности, а не из любви или чего-либо еще.

Например, когда отец перестанет быть абсолютным ядром источника дохода семьи, феодально-патриархальная семья будет постепенно распадаться.Однако современное общество по-прежнему сохраняет семью, а значит, современный человек по-прежнему нуждается в таком способе организации и распределения собственности.

Сможет ли ИИ разрушить существующую семейную структуру, зависит от того, в какой степени он сможет участвовать в распределении общественного богатства. Когда сам ИИ все еще был своего рода «собственностью», о разнообразных семьях не могло быть и речи.

Учитель Чэнь Цюфань говорит о далеком будущем.Только когда ИИ преодолеет физические ограничения и научится распределять богатство, мы, вероятно, увидим больше семей, основанных на сообществах, основанных на общих интересах, ценностях или образе жизни, а не на кровных узах.

Сохранит ли в то время общество фундаментальную частную собственность? Если основы частной собственности будут поколеблены, вполне возможно, что концепция семьи исчезнет в истории.

«20 человек, 20 вопросов» — это только начало. В обозримом будущем человечество будет обсуждать ИИ с высокой частотой и интенсивностью. Исторически сложилось так, что изменения в социальных формах, вызванные повышением производительности, всегда были наиболее важной проблемой, без исключения.

Любовь и семья – лишь малая часть этой большой проблемы. Она связана с тем, как мы понимаем общество и самих себя. Только после длительного периода размышлений мы можем прийти к поэтапному выводу.

И одно можно сказать наверняка: мы не можем перестать задавать вопросы.

Примечание редактора: эта статья взята из книги «Deep Eyes Business 2022», написанной Хемой Цзюнь и Чу Цинчжоу и опубликованной Aifan'er с разрешения.

# Добро пожаловать на официальную общедоступную учетную запись WeChat Aifaner: Aifaner (идентификатор WeChat: ifanr). Более интересный контент будет предоставлен вам как можно скорее.

Ай Фанер | Исходная ссылка · Посмотреть комментарии · Sina Weibo