苹果官宣:在谷歌TPU上训练其AI模型

苹果开发自家AI系统离不开谷歌芯片支持

据公开文件显示,苹果公司在开发其自家的人工智能系统Apple Intelligence时,大量依赖于谷歌定制芯片的支持。这一消息引起了业界的广泛关注。

美东时间7月29日,苹果在其官网上发布了一篇技术论文,详细介绍了为支持Apple Intelligence而开发的基础语言模型。其中包括一个用于在设备上高效运行的约30亿参数模型——端侧“苹果基础模型”(AFM),以及一个为苹果云端AI架构“私有云计算”而设计的大型服务器语言模型——服务器AFM。

论文中透露,端侧AFM和服务器AFM都是苹果开发的生成式模型家族成员,这些模型旨在支持用户和开发者。值得注意的是,苹果在训练这些模型时采用了谷歌研发的第四代AI ASIC芯片TPUv4和更新一代的芯片TPUv5。

具体来说,服务器AFM是在8192块TPUv4芯片上从无到有进行训练的,使用了4096的序列长度和4096个序列的批量大小,进行了6.3万亿token训练。而端侧AFM则在2048块TPUv5p芯片上进行训练。尽管苹果在这篇长达47页的论文中没有明确提到谷歌或英伟达的名字,但表示其AFM和AFM服务是在“云TPU集群”上训练的,这意味着苹果通过租赁云服务商的服务器来执行计算任务。

事实上,早在今年6月的全球开发者大会(WWDC)期间,媒体就已经在苹果公布的技术文件中发现,谷歌成为了苹果在AI领域发力的另一个重要合作伙伴。苹果的工程师在构建基础模型时不仅使用了公司自研的框架软件,还利用了多种硬件资源,包括仅在谷歌云上可用的张量处理单元(TPU)。然而,苹果并未透露与英伟达等其他AI硬件供应商相比,它对谷歌芯片和软件的依赖程度。

这一消息无疑揭示了苹果在人工智能领域的战略布局和技术选择。尽管苹果一直在努力提升自身的AI能力,但在关键的硬件支持方面,仍然需要借助谷歌的技术力量。这也反映出当前AI技术发展的高度复杂性和跨领域合作的重要性。

未来,随着AI技术的不断进步和应用范围的扩展,苹果和谷歌之间的这种合作关系可能会进一步深化,同时也将推动整个行业的技术创新和发展。

网友评论(0)

暂无网友评论