Стив Возняк предупреждает, что ИИ сделает мошенничество еще более убедительным

Стив Возняк поделился своими мыслями о новой волне инструментов на базе ИИ, которые привлекли к себе столько внимания в последние месяцы.

В беседе с BBC на этой неделе соучредитель Apple сказал, что опасается, что эта технология будет все чаще использоваться киберпреступниками, чтобы сделать онлайн-мошенничество более убедительным и, следовательно, более трудным для обнаружения.

Чат-бот OpenAI ChatGPT и аналог Google Bard входят в число постоянно растущего числа инструментов генеративного ИИ, способных общаться в письменной форме естественным, человеческим образом. Они настолько мощны, что в недавнем отчете Goldman Sachs говорится, что в ближайшие годы технология повлияет примерно на 300 миллионов рабочих мест , хотя в нем добавлено, что многие из этих рабочих мест, вероятно, будут поддерживаться технологией, а не заменяться.

Принимая во внимание в целом более неприятную сторону технологии, Возняк сказал: «ИИ настолько умен, что открыт для плохих игроков, которые хотят обмануть вас в том, кто они».

В интервью CNN на прошлой неделе Возняк высказал аналогичные взгляды, но сказал, что надеется, что ИИ будет обучен выявлять мошенников, использующих ту же технологию, а затем предупреждать цель о необходимости предпринять соответствующие действия для своей защиты.

Но ИИ может ускорить не только мошенничество с электронной почтой. Недавний отчет Washington Post показал, как преступники уже используют технологию искусственного интеллекта для клонирования голоса человека, используя всего лишь короткий образец его речи. Затем они используют фальшивый, но очень убедительный голос в телефонной афере, чтобы обманом заставить родственника или друга передать деньги.

В своем интервью BBC Возняк также призвал к регулированию новой технологии искусственного интеллекта, чтобы гарантировать, что ее создатели останутся в определенных рамках.

Возняк был одним из примерно 1000 экспертов по технологиям, которые в марте призвали к шестимесячной паузе в разработке некоторых инструментов ИИ, чтобы можно было составить набор рекомендаций по их безопасному развертыванию. Илон Маск был еще одним из тех, кто подписал письмо.

Технический инженер, построивший первый компьютер Apple вместе со Стивом Джобсом пять десятилетий назад, сказал Би-би-си, что хочет, чтобы регулирование было нацелено на крупные технологические компании, которые «чувствуют, что им может сойти с рук что угодно». быть эффективным, добавляя: «Я думаю, что силы, которые гонятся за деньгами, обычно побеждают, что довольно печально».