苹果(AAPL.US)使用谷歌(GOOG.US,GOOGL.US)TPU训练AI模型 英伟达(NVDA.US)霸主地位面临风险
(原标题:苹果(AAPL.US)使用谷歌(GOOG.US,GOOGL.US)TPU训练AI模型 英伟达(NVDA.US)霸主地位面临风险)
获悉,周一,苹果(AAPL.US)表示,其人工智能系统apple Intelligence所依赖的人工智能模型是通过谷歌(GOOG.US,GOOGL.US)设计的处理器进行预训练的,这表明大型科技公司在培训尖端AI时正在寻找英伟达(NVDA.US)的替代品。
苹果在刚刚发布的技术报告中详细介绍了选择谷歌自主开发的Tensor处理单元(TPU)进行训练的情况。此外,苹果还在周一为部分设备发布了apple Intelligence的预览版。
英伟达昂贵的图形处理单元(GPU)在高端AI训练芯片市场占据主导地位,过去几年需求量如此之高,以至于很难按所需数量采购。OpenAI、微软(MSFT.US)和Anthropic都在使用英伟达的GPU来训练他们的模型,而其他科技公司,包括谷歌、Meta(META.US)、甲骨文(ORCL.US)和特斯拉(TSLA.US),也在争相购买这些GPU来建立他们的AI系统和产品。
Meta首席执行官扎克伯格和Alphabet首席执行官桑皮查伊上周都表示,他们的公司以及行业中的其他公司可能在AI基础设施上过度投资,但也承认不这样做的商业风险太高。
苹果在其47页的报告中没有提到谷歌或英伟达,但指出其apple Foundation Model(AFM)和AFM服务器是在“云TPU集群”上进行训练的。这意味着苹果租用了云服务提供商的服务器来进行计算。苹果在报告中表示:“这种系统使我们能够高效且可扩展地训练AFM模型,包括AFM设备端、AFM服务器和更大的模型。”
相比其同行在OpenAI于2022年末推出ChatGPT后迅速拥抱生成式AI,苹果披露其AI计划的时间较晚。周一,苹果推出了apple Intelligence。该系统包括多个新功能,如Siri的全新外观、更好的自然语言处理和文本字段中的AI生成摘要。
在接下来的一年里,苹果计划推出基于生成式AI的功能,包括图像生成、表情符号生成以及能够访问用户个人信息并在应用中执行操作的加强版Siri。
在周一的报告中,苹果表示,设备端AFM是在一块由2048个TPU v5p芯片组成的“切片”上进行训练的。这是最先进的TPU,于去年12月首次推出。AFM服务器是在8192个TPU v4芯片上进行训练的,这些芯片通过数据中心网络被配置为八个切片协同工作。
根据谷歌网站,最新的TPU在预订三年时,每小时的使用成本不到2美元。谷歌于2015年首次推出TPU用于内部工作负载,并于2017年向公众开放。它们现在是为人工智能设计的最成熟的定制芯片之一。
尽管如此,谷歌仍是英伟达的主要客户之一。它在训练AI系统时使用了英伟达的GPU和自家的TPU,同时也在其云上出售英伟达技术的使用权限。
苹果此前表示,推理过程(即使用预训练的AI模型生成内容或做出预测)将部分在其数据中心的自有芯片上进行。
这是苹果关于其AI系统的第二篇技术论文,此前在六月发布了一份更为概括的版本。苹果当时表示,在开发AI模型时使用了TPU。
苹果计划于周四交易结束后公布季度业绩。
本文 原创,转载保留链接!网址:https://licai.bangqike.com/gjsc/668673.html
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。