耕耘多年后,基于arm架构的cpu在服务器市场迎来了大幅增长,被众多客户喜欢并采用。
超大规模云服务商如亚马逊云服务 (aws)、阿里巴巴、微软等自研cpu,都选择和arm合作,这是为什么?
“答案非常简单,通过和arm合作,他们能够根据自己的用例和基础设施来打造并优化亚博电竞网的解决方案。”arm高级副总裁兼基础设施事业部总经理mohamed awad在2023 arm tech symposia年度技术大会上表示。
与超大规模云服务商同样喜欢arm服务器cpu可定制化特性的还有最重要的ai芯片提供商之一——英伟达。
在英伟达强大的gh200超级芯片中,包含了72颗arm neoverse核心,加上英伟达的gpu,gh200的ai性能较基于x86架构的系统可提升10倍。
为了满足更多客户在基础设施建设中的定制化需求,arm还有两个重要举措。
为什么首选arm neoverse cpu?
gh200 grace hopper 超级芯片平台是英伟达今年5月发布的产品,专为处理海量的生成式ai任务而设计。拥有256个gh200超级芯片的nvidia dgx gh200超级计算机,其ai性能提升到了惊人的exaflop(每秒一百万万亿次次算)级别。
如此强大的ai性能,关键在于系统架构的变革。
基础设施领域的传统系统架构
传统的服务器系统架构,内存通过pcie,连接一个通用现成的cpu(也就是host cpu),负责管理多个加速器。
“这种传统架构是过去市场上唯一可用的架构。”mohamed awad指出,“这个架构的问题在于,通用现成的cpu以及加速器之间的接口直接限制了产品最终的性能水平。因为所有的加速器都必须通过这个通用现成的cpu访问额外的内存,无法达到内存的一致性,加速器的性能无法被充分利用,也就无法很好地支持生成式ai的需求。”
面向新的应用需求,基础设施领域出现了现代化的系统架构
gh200超级芯片改变了传统架构,通过nvlink,让每一个cpu都单独和一个加速器相连,实现较强的内存一致性。其中的关键点之一就是可客制化的 cpu,为此,借助这样的架构,英伟达能够充分发挥gpu的效率,根据实际场景和用例实现了性能的最大化。
“只有了解最终用例,并且根据使用场景针对性地设计cpu,才能获得更好的效率,达到产品最佳的表现性能。”mohamed awad进一步表示,“英伟达携手arm,借助了arm技术带来的灵活性,设计出他们所需要的芯片以进一步优化系统,同时充分利用arm强大的软件生态系统。”
接下来的问题是,英伟达提出的这种架构会成为生成式ai时代的主流吗?
“现在判断一个cpu对一个 gpu 作为加速器是不是未来的主趋势,或唯一趋势,仍为时尚早。”mohamed awad对雷峰网(公众号:雷峰网)表示,“我们正处于计算加速的时代,在未来的架构当中,不管通过什么方式耦合,任何的通用cpu旁边都一定会有一个加速器。arm的独特之处在于,能够帮助亚博平台app下载的合作伙伴从头开始、根据所需构建定制化的 cpu,做好cpu和加速器之间的连接。”
由于x86提供的是标准的cpu芯片,所以gh200超级芯片平台中cpu最佳的选择只有arm cpu,这也是arm neoverse受到欢迎的关键。
也就是说,标准化的cpu不能满足基础设施的定制化需求,可定制化成了arm在服务器市场的杀手锏。
可定制化,arm在服务器市场的「杀手锏」
今年八月,arm推出了arm neoverse计算子系统 (css),促使arm生态系统通过更低的成本、更少的风险以及更短的时间,打造出专用芯片。
arm css的第一代产品arm neoverse css n2集成了neoverse n2 平台,并通过验证配置且优化了功耗、性能与面积 (ppa)。
“通过neoverse css能够帮助我们的亚博平台app下载的合作伙伴进一步降低投资,加速整个生态系统对我们亚博电竞网的解决方案的可访问性,同时加速亚博平台app下载的合作伙伴产品的上市时间。”mohamed awad表示。
雷峰网了解到,有arm的客户通过使用neoverse css,节省了长达80人/年的工程师时间。还有客户用了neoverse css,项目从概念到流片仅用了13个月。
微软近期发布的cobalt 100 cpu,也是基于neoverse css。
“arm neoverse 在中国市场,特别是基础设施领域,有很多客户,过去三、四年发展也非常强劲。”arm 中国区业务全球副总裁邹挺说,“arm 也积极参与数据中心、云计算等本土的生态、开源软件社区,包括龙蜥社区等,帮助这些社区能更好地融入arm全球生态系统中。”
mohamed awad也强调,中国是arm非常重要的市场之一,中国亚博平台app下载的合作伙伴基于arm架构芯片的总出货量已累计达300亿颗,arm在中国有近400家技术授权客户,这个数字每个月还在不断攀升。
arm全球的生态也是满足客户差异化需求的关键所在,在neoverse css 的基础之上,arm推出了全面设计 (arm total design) ,进一步结合生态系统的力量,简化定制芯片的开发流程,并且让交付变得更加容易、便捷。
arm全面设计的推出,让asic 设计公司可以快速启动设计项目,并随时可将其设计方案提供给所需的客户;ip 供应商可以针对neoverse css,进行预先集成、预先验证和预先优化高级ip;eda亚博平台app下载的合作伙伴可以无缝支持最先进的工具和流程,简化soc设计;商业固件亚博电竞网的解决方案可早于芯片流片之前便开始开发;与此同时,neoverse css的设计将经过专门优化,充分发挥领先的工艺节点的优势。
显然,在基础设施追求差异化的时代,arm neoverse css和arm全面设计是当下满足差异化需求的最佳选择。
还要注意到,arm已经转型为一家计算平台公司,如今arm的全面计算亚博电竞网的解决方案 (arm total compute solutions)、arm neoverse平台、arm corstone 以及 soafee 等计算平台都已经被广泛应用于移动、基础设施、物联网以及汽车等领域。