Arm为无处不在的AI奠定技能根底

09-13 821阅读 0评论
Arm为无处不在的AI奠定技能根底

作为人工智能(AI)的立异根底,很多企业都在运用通用且运用广泛的Arm核算渠道。迄今为止,协作伙伴根据Arm架构的芯片出货量已超越2900亿颗。现在,Arm已为各类技能范畴的AI运用供给支撑,这也是为何AI的技能先行者们可以根据Arm渠道快速立异的要害原因。

无论是现在仍是未来,Arm渠道都是AI运转的柱石。若要满意对AI技能和运用的旺盛需求,则必须在核算范畴的方方面面完成无处不在的AI功用。从运用很多处理器练习大言语模型(LLM)的大型数据中心,到全球数字顾客每天触摸边际AI的电子设备,核算范畴的方方面面都有AI的身影。

高效的AI核算

若要满意AI对高算力的需求,则少不了对高效核算功用的投入。生成式AI的展开推进了对AI算力和资源的需求空前增加。一名荷兰研究人员指出,假如一年内每次运用Google进行查找都运用到AI,其所需的电力相当于爱尔兰全国一年的用电量。久远来看,考虑到地球上资源有限,这种办法是难以为继的。

Arm供给了核算功用和能效的杰出组合,推进了智能手机范畴的技能改造,而相同的趋势也正发生在AI改造中。

数据中心中的AI

头部超大规模服务运营商正选用定制芯片战略,来进行数据中心转型,以迎候AI年代。

软银公司正在与NVIDIA协作,建造全球首座选用根据Arm架构的Grace Hopper超级芯片的5GAI 数据中心。这一突破性的AI加快CPU专为超大规模AI和高功用核算运用而规划。Grace Hopper 根据72颗Arm Neoverse V2 中心打造,在AI的高负荷使命中完成了10倍的功用腾跃,一起大幅提高了每瓦功用。微软则在此前发布了其首款专为云核算打造的定制芯片Azure Cobalt 100 处理器,该处理器根据Arm Neoverse CSS N2打造。此外,根据Arm Neoverse渠道的AWS Graviton3可以使AI推理(运用练习后的模型对新的实在数据进行猜测的进程)的本钱节省50%。

在数据中心中约有85%的AI作业负载用于运转推理,其驱动了各种用例、职业和设备的AI运用,因而企业有巨大的动力来下降相关的能源消耗和本钱。

边际AI

除了数据中心和云服务,许多AI作业负载还需要在设备上进行处理,以便更有效地散布AI作业负载。

在设备上处理AI作业负载已经成为实际,无论是智能手机、智能家居设备仍是智能轿车,这一趋势将继续增加,特别是跟着大言语模型(LLM)变得愈加高效,并针对特定使命、用例或设备而专门打造。直接在收集数据的设备上处理AI核算,可以带来更快、更安全的用户体会并削减推迟,这关于工业和轿车运用等对安全性要求很高的用例来说至关重要。

开发者正在编写更精简的AI模型,以在小型微处理器甚至更小的微控制器上运转,然后节省能源、时刻和本钱。例如,Plumerai供给的软件解决方案可在根据Arm Cortex-A和Cortex-M的体系级芯片(SoC)上加快神经网络,并在根据Arm架构的微控制器上运转略高于1MB的AI代码,其可履行面部检测和辨认等功用。

根据处理器技能的AI

无论是由CPU处理悉数AI作业负载,仍是由GPU或NPU等协处理器供给支撑,AI处理始于CPU。

曩昔十年间,Arm的CPU和GPU的AI处理才能每两年就完成翻番,现在70%的第三方运用中的AI都根据Arm CPU 运转,在要害技能市场中推进了边际AI的明显展开。

根据Armv9 CPU和GPU技能打造的高功用AI手机现已面世,其间包含搭载MediaTek天玑9300的vivo X100和X100 Pro智能手机,以及Google Pixel 8,这是首款专为Google的AI模型Gemini Nano进行工程研制的智能手机,可在边际履行一系列AI的使命。与此一起,超越200亿个根据Arm架构的SoC可以运转各种物联网设备上广泛的ML作业负载,包含根据Cortex-M处理器、Arm Ethos-U NPU 和Cortex-A CPU打造的设备。而在轿车范畴,现在的车用芯片可完成根本的AI功用,如障碍物检测、3D视图和简略的传感器交融,这些功用都在Arm CPU上运转。下一代根据AI的轿车功用,如先进驾驭辅佐体系(ADAS)和自动驾驭功用,也根据Arm CPU而构建。

全球最大的开发者社区

Arm继续的软件投入正建立起全球最大的AI开发者社区。

Arm致力于以最常见的方法让开发者可以更简略、更快速、更安全地进行编码,携手完成无处不在的AI。现在,超越一亿用户可以运用Arm NN软件开发东西包,在Arm CPU和GPU上优化ML作业负载。关于全球1500万Arm架构设备开发者来说,这使他们可以运转杂乱的AI和ML作业负载,保证将运用更快地推向市场。

Arm在其业界抢先的生态体系中展开了一系列协作,以使其对开发者的AI许诺付诸实践。此外,Arm还经过开源结构和库,为根据Arm架构的硬件供给强壮的ML功用,为开发者供给全方位支撑,包含TensorFlow、PyTorch、Caffe2、OpenVINO和TVM,然后为开源社区打造AI立异根底。

写在最终

AI为下一个技能立异奠定了根底,引领社会进入一个潜力特殊的新年代。而完成这一切的条件正是让AI无处不在。这不只意味着要在云端、数据中心和超级核算机中完成AI,还要保证杂乱的AI作业负载可以在更小、更受限的边际技能和设备上运转。能效与功用关于推进边际AI的展开平等重要。

Arm正在促进这一方针。Arm供给了运用广泛的通用核算渠道,赋能边际设备和其他范畴的各种可能性。无论是CPU、GPU、ISP仍是NPU,Arm在每一代产品中都增加了更多AI功用、功率功用及安全特性,一起还为协作伙伴供给了多样的灵活性,使它们可以集成和开发自己的立异解决方案。而在软件、东西和生态体系方面,IP与开源软件和东西甚至广泛的职业抢先生态体系相结合,让全球上千万开发者都可以运用Arm核算渠道作为AI立异的根底。从传感器、智能手机,到工业级物联网、轿车和数据中心,根据Arm渠道的AI无处不在。

Arm为无处不在的AI奠定技能根底

vivo X100 12GB+256GB 星迹蓝

[经销商] 京东商城

[产品价格] ¥ 3448元

发表评论

快捷回复: 表情:
评论列表 (暂无评论,821人围观)

还没有评论,来说两句吧...

目录[+]