«Крестный отец ИИ» покидает Google, чтобы более свободно говорить о проблемах

Пионер искусственного интеллекта Джеффри Хинтон удивил многих в понедельник, когда сообщил, что уволился с работы в Google, где он работал последнее десятилетие над проектами ИИ.

75-летний британец Хинтон, которого часто называют «крестным отцом ИИ» за его новаторскую работу, лежащую в основе многих современных систем ИИ, сказал New York Times , что у него серьезные опасения по поводу скорости, с которой такие системы, как Open AI, со своим инструментом ChatGPT и Google с Bard работают над развитием своих продуктов, тем более что это может быть за счет безопасности.

Как сообщает Times, Хинтон настолько обеспокоен, что даже сказал, что часть его сожалеет о своих прошлых усилиях в области ИИ.

Как отмечается в отчете, генеративные инструменты искусственного интеллекта уже постепенно заменяют людей, и эту технологию также можно использовать для создания и распространения дезинформации.

Действительно, одна из забот Хинтона заключается в том, что Интернет, данные которого используются для обучения инструментов генеративного ИИ, будет наводнен ложной информацией, из-за которой чат-боты, такие как ChatGPT и Bard, будут выдавать бесконечную неправду таким образом, который звучит правдоподобно.

Поскольку компании, стоящие за этой технологией, выпускают свои инструменты на основе ИИ для общественного пользования, не зная полностью их потенциала, Хинтон опасается, что «трудно понять, как вы можете предотвратить использование злоумышленниками их для плохих целей».

Хинтон сказал, что регулировать технологию будет сложно, поскольку компании и правительства могут работать над технологией в значительной степени тайно, добавив, что один из способов решить эту проблему — попытаться заставить ведущих ученых работать вместе над способами контроля над технологией.

В понедельник эксперт по искусственному интеллекту сообщил в Твиттере, что решил покинуть Google, чтобы «рассказать об опасностях искусственного интеллекта, не задумываясь о том, как это повлияет на Google». развивать.

Выразив еще большую обеспокоенность в прошлом месяце, когда его спросили в интервью CBS о вероятности того, что ИИ «уничтожит человечество», Хинтон сказал: «Это не невероятно».

После известия об уходе Хинтона Джефф Дин, главный научный сотрудник Google, заявил в своем заявлении: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».

Хинтон — не единственный эксперт, который выражает обеспокоенность по поводу новой волны технологий искусственного интеллекта, которая штурмом захватила мир.

Удивительно, но руководитель OpenAI Сэм Альтман недавно признался, что «немного напуган» потенциальными эффектами технологии ИИ.

А в марте в письме, подписанном техническими лидерами и учеными, утверждалось, что технология представляет «серьезный риск для общества и человечества».

Письмо, опубликованное Институтом будущего жизни и среди подписантов которого был Илон Маск, призывало к шестимесячной паузе в разработке, чтобы дать время для создания и внедрения протоколов безопасности для передовых инструментов.

Он добавил, что при правильном обращении человечество сможет «наслаждаться процветающим будущим с ИИ».