Мы только что узнали кое-что удивительное о том, как обучали Apple Intelligence

В новом исследовательском документе Apple показано, что компания использовала тензорные процессоры Google (TPU), а не более широко распространенные графические процессоры Nvidia, при обучении двух важнейших систем в рамках своего будущего сервиса Apple Intelligence . В документе отмечается, что Apple использовала 2048 чипов Google TPUv5p для обучения своих моделей искусственного интеллекта и 8192 процессора TPUv4 для своих серверных моделей искусственного интеллекта.

Чипы Nvidia пользуются большим спросом по уважительной причине, поскольку они заслужили свою репутацию благодаря производительности и эффективности вычислений. Их продукты и системы обычно продаются как отдельные предложения, что позволяет клиентам создавать и эксплуатировать их по своему усмотрению.

С другой стороны, TPU Google доступны пользователям только как часть более крупного пакета облачных сервисов компании. То есть вы не столько владеете TPU Google, сколько арендуете к ним доступ, поскольку клиенты обязаны разрабатывать свои модели искусственного интеллекта в экосистеме Google Cloud.

По мнению исследовательской группы, это требование к облачным технологиям сработало в пользу Apple. Они отметили, что возможность кластеризации TPU Google позволила им использовать необходимую вычислительную мощность для обучения моделей искусственного интеллекта Apple и делать это более эффективно, чем с помощью автономной системы.

Решение Apple использовать продукты Google является неожиданным, и не только из-за давнего соперничества двух компаний. Nvidia может похвастаться доминирующей долей рынка чипов искусственного интеллекта: на ее ускорители приходится от 70% до 95% всех продаж.

Однако решение Apple можно рассматривать как знак того, что технологические компании стремятся отказаться от дорогих высокопроизводительных чипов Nvidia. Amazon, например, недавно сообщила, что разрабатывает новую линейку чипов искусственного интеллекта , которые предположительно на 50% мощнее, чем предложения Nvidia, и работают, потребляя на 50% меньше энергии.

В мае Microsoft объявила , что будет предлагать своим клиентам облачные услуги, построенные на базе AI-чипов AMD, а не Nvidia, в то время как Google предприняла аналогичные шаги в апреле .