Эксперты в области здравоохранения последними бьют тревогу по поводу разработки ИИ
Международная группа врачей и медицинских экспертов последней призвала к регулированию искусственного интеллекта (ИИ), заявив, что он «представляет ряд угроз для здоровья и благополучия человека», и утверждая, что «окно возможностей чтобы избежать серьезного и потенциально экзистенциального вреда, закрывается».
Анализ следует за другими недавними предупреждениями видных технических деятелей, в том числе Джеффри Хинтона , так называемого «крестного отца ИИ», и группы экспертов, которые были среди 1000 подписавших письмо, призывающее к приостановке разработки ИИ до тех пор, пока не будет могут быть установлены правила, обеспечивающие его безопасное использование.
Последнее предупреждение содержится в статье, написанной медицинскими работниками из США, Великобритании, Австралии, Коста-Рики и Малайзии, которая была опубликована в Интернете на этой неделе BMJ Global Health.
Команда выделила три способа, которыми, по ее мнению, ИИ представляет угрозу для здоровья человека, сославшись на «контроль и манипулирование людьми, использование смертоносного автономного оружия и влияние на работу и занятость».
Далее он рассматривает, как, по его мнению, более продвинутая версия технологии ИИ «может угрожать самому человечеству».
Статья начинается с того, что системы, управляемые ИИ, все чаще используются в обществе, организуя и анализируя огромные объемы данных, но предупреждается, что они могут быть мощным инструментом для политических кандидатов, чтобы «манипулировать своим путем к власти», ссылаясь на случаи Подрыв выборов с помощью ИИ, в том числе на выборах в США в 2016 году.
«В сочетании с быстро улучшающейся способностью искажать или искажать реальность с помощью дипфейков информационные системы, управляемые ИИ, могут еще больше подорвать демократию, вызвав общий подрыв доверия или спровоцировав социальные разногласия и конфликты с вытекающими последствиями для общественного здравоохранения», — говорится в статье. .
Он также отметил, что ИИ все чаще используется в военных и оборонных системах, а «дегуманизация ведения боевых действий человеком» имеет множество последствий для здоровья человека, поскольку оружие становится все более сложным и простым в развертывании.
В статье также обсуждается, как ИИ может однажды заменить бесчисленное количество рабочих мест , и отмечается, что безработица, как известно, тесно связана с неблагоприятными последствиями для здоровья.
Наконец, он затрагивает кошмарный сценарий, когда ИИ становится настолько продвинутым, что может представлять угрозу для человечества.
«Сейчас мы стремимся создать машины, которые будут намного умнее и мощнее нас самих», — говорится в статье. «Потенциал таких машин для применения этого интеллекта и силы — преднамеренно или нет — способами, которые могут нанести вред или поработить людей, реален и должен быть рассмотрен».
Хотя в статье признается, что у ИИ есть много потенциальных полезных применений, в нем также говорится, что есть о чем беспокоиться, поскольку технология быстро развивается.
Команда пришла к выводу, что эффективное регулирование разработки и использования ИИ необходимо «во избежание вреда», добавив: «Пока такое эффективное регулирование не будет принято, следует ввести мораторий на разработку самосовершенствующегося искусственного интеллекта».