广告

Arm推出Ethos-U85、Corstone-320,加速推动边缘AI系统落地

为了加速AI系统的快速落地,Arm近日推出了全新AI微加速器Arm Ethos-U85,以及全新的智能物联网参考设计平台Corstone-320。

近年来,伴随着Transformer与大模型的发展,AI模型的普适性、多模态支持,以及模型微调效率都有了质的突破,加上低功耗的AI加速器和专用芯片被集成到终端设备中,边缘智能正变得越来越自主和强大。i9Fesmc

边缘AI潜力巨大,有望助力多个领域的持续智能化演进与转型。Arm的客户与生态伙伴在智能家居、智能零售与智能制造等领域不断创新,进而实现感知、决策与行动的闭环,提高自动化水平。为了加速AI系统的快速落地,Arm近日推出了全新AI微加速器Arm Ethos-U85,以及全新的智能物联网参考设计平台Corstone-320。i9Fesmc

Arm物联网事业部业务拓展副总裁马健(Chloe Ma)介绍道,Arm为了实现AI算子延展与部署简化,在过去十年中进行了大量投资并优化性能。i9Fesmc

Arm边缘AI领域的厚积薄发

i9Fesmc

1Arm赋能边缘AI持续创新i9Fesmc

起初,Arm聚焦在优化各类传感器必需的嵌入式处理器上,致力于实现超低成本、低功耗和小面积,并支持控制级代码的开发;随着万物互联的发展,连接使边缘算力和安全性变得越来越重要,该公司顺势推出了Armv8-M和Arm TrustZone等技术来增强算力与安全;当边缘与端侧AI推理需求增长, Arm在嵌入式领域引入了Armv8.1-M,Arm Helium技术使CPU能够执行更多计算密集型的AI推理算法;紧接着,Arm又推出了业界首款 AI 微加速器 Arm Ethos NPU,来满足更高性能和更复杂的AI工作负载。i9Fesmc

马健评价说:“Arm在AI时代的演进中起到了至关重要的作用。诸多基于Arm架构的边缘AI解决方案的成功部署,让我们更加坚信AI需要硬件和软件之间的紧密结合。”当然,当系统变得愈加强大,其复杂度也随之提升。软硬件必须协同工作才能释放AI处理的最大潜能。因此,Arm不仅聚焦处理器IP,也在软件与工具链方面加强投资,确保满足高性能边缘AI系统的开发需求。i9Fesmc

为了达成“软硬件紧密结合”的目标,Arm与生态合作伙伴正齐心协力合作。据马健介绍,目前在 Arm软硬件计算平台上涌现了大量创新,包括:恩智浦半导体(NXP)的i.M系列、瑞萨电子(Renesas)的RA8系列、英飞凌(Infineon)的PSoC Edge、Alif Semiconductor的Ensemble等边缘AI芯片方案。同时,Arm也在与一系列软件算法与工具伙伴合作,以确保为边缘AI系统开发者提供工具和技术支持。i9Fesmc

为了进一步推动边缘 AI 的落地,Arm近日又更新了智能物联产品组合,此次的新产品组合包括——全新AI微加速器Arm Ethos-U85和全新智能物联网参考设计平台Corstone-320。i9Fesmc

·全新AI微加速器Arm Ethos-U85

Arm Ethos-U NPU系列是业界首款AI微加速器,英飞凌、恩智浦半导体、奇景光电(Himax)、Alif Semiconductor和Synaptics等企业均已推出搭载Ethos-U的量产芯片。全新的Arm Ethos-U85属于Arm Ethos-U NPU系列,它为高性能边缘AI应用带来了四倍的性能提升,20%的能效提升,并保持了一致工具链,可实现无缝的开发者体验。Arm Ethos-U85支持从128到2048个MAC单元的配置,在最高性能配置下提供4TOPs的AI算力。据介绍,Ethos-U85的目标应用场景是智能家居、零售、工业等新兴边缘AI应用场景。i9Fesmc

i9Fesmc

2Arm Ethos-U85提供卓越的神经网络加速功能i9Fesmc

此外,Ethos-U85增加了Transformer架构网络的支持,这是优化大模型边缘落地微调时间、提升模型泛化的一个关键特性。具体来看,Ethos-U85不仅提供卷积神经网络(CNN)所需的权重矩阵乘的运算,还支持矩阵相乘——这是Transformer架构网络的一个基本组成部分。基于Transformer的模型具有优异的泛化功能,它将更快地驱动新AI应用的发展。i9Fesmc

Transformer在视觉和生成式AI用例中,比如视频理解、图文结合、图像增强与生成、图像分类和目标检测等方面都极有价值。Transformer架构网络的注意力机制容易利用并行计算来实现,提高硬件使用效率,这些模型能够部署在计算资源有限的边缘设备上。开发者可通过选用针对Transformer架构网络优化的设计,使边缘AI应用享有更快的推理、更优化的模型性能和可扩展性。i9Fesmc

Ethos-U85不仅支持低功耗MCU系统中的AI加速,还支持在高性能边缘计算系统中的应用处理器、标准操作系统和高级开发语言的部署,这种模式更有利于云原生开发和云边端负载调度。而Arm Ethos-U85和Armv9 Cortex-A CPU的组合,可为基于应用处理器的智能物联网平台上运行的AI任务实现加速,给工业机器视觉、边缘网关、可穿戴设备和消费类机器人等应用带来高效能的边缘推理。i9Fesmc

·全新智能物联参考设计平台Arm Corstone-320

Arm为了帮助合作伙伴简化系统开发进而加快上市时间,还推出了最新的具备Ethos-U85的边缘AI参考设计平台——Arm Corstone-320。i9Fesmc

Corstone-320包含了嵌入式处理器Cortex-M85,以及全新的Ethos-U85 NPU AI加速器。由于视觉在多模态感知中起到了关键作用,许多边缘MCU和传感器系统越来越依赖于视觉和图像感知,Corstone-320还包含了Arm Mali-C55 ISP,以实现为视觉应用优化的低功耗系统。据悉,该参考设计针对实际工作负载开发,其参考用例包括部署在智能家居中的电池供电摄像系统,以及在工业和零售系统中的低帧率网络摄像头。i9Fesmc

另外,Corstone-320参考设计还提供有安全保证的软硬件组合,使得在此参考设计基础上开发的合作伙伴,可顺利地通过PSA Certified Level 2认证,实现对区域和全球安全标准的合规。马健强调说:“通过Corstone-320预先集成、预先验证的参考设计模版,Arm能帮助合作伙伴节省边缘智能芯片的开发成本和时间。”i9Fesmc

值得注意的是,Corstone-320不仅提供芯片计算子系统IP组合,还附带了软件、AI模型库和开发工具,以实现软件的复用。它附带了仿真Corstone-320完整系统的Arm虚拟硬件,以及单独的CPU和NPU的固定虚拟平台(FVP)模型,以简化开发并加速产品设计,支持软硬件并行协同开发。马健评价道,这种提供边缘AI和智能物联网计算子系统全套软硬件和工具链的方法,使得其合作伙伴能够在一系列性能点上,快速开发并聚焦于打造差异化价值。i9Fesmc

助力生态伙伴加速边缘AI设备部署

i9Fesmc

3Arm助力加速边缘AI设备部署进程i9Fesmc

简单易用才更适于普及推广,随着边缘AI的持续扩展,物联网生态链上下游的芯片与系统供应商、算法软件开发者与集成商们越来越汇聚在Arm计算平台。i9Fesmc

马健认为,是因为Arm计算平台能提供AI从云到端、现代敏捷开发和部署流程中所需的特性和功能,实现基于量产验证的一致架构,并采用统一工具链的AI转型。包括开发者、数据科学家、学术界在内的AI研究开发社区,不仅持续受益于Arm生态系统与合作伙伴提供的丰富信息与知识,也围绕Arm计算平台构建日益增长的软件和工具生态系统,以及开源软件库和AI框架。又得益于Arm特有的IP授权许可模式和开放生态,OEM和ODM可以有多种基于Arm架构和计算平台的芯片与模组选择,更灵活地开发适于最终应用的系统方案。i9Fesmc

当下市场上边缘用例繁多,传统物联网市场存在碎片化,为了更好地统一多样化的应用要求,达到规模化效益,软件定义和适于软件移植的标准必不可少。全新的Ethos-U85和Corstone-320参考设计平台,满足了边缘AI用例对更高性能计算的需求,为最新的AI模型、框架提供了原生支持,并沿用Arm软件与AI开发者已经熟知的工具链,具有投资复用、上手容易等优势。这些最新的产品与参考设计加入了Arm丰富的IP产品和技术组合中,使Arm技术能够覆盖更广泛、多样化的智能物联网应用,并满足最新边缘AI市场的性能、成本和能效需求。i9Fesmc

边缘AI还将随着大模型和生成式AI崛起,用户体验的持续提升、数据量激增,以及企业对数据价值的认可,将使行业经历巨大变化,例如在设备上实现实时语言翻译等。随着大模型持续通过量化、剪枝和聚类技术来缩减优化模型,使大模型适于在边缘和超级终端设备部署,大小模型云边端结合成为未来AI产品的重要发展趋势,也是AI应用赋能行业发展的重要方向。i9Fesmc

马健最后指出,边缘部署大模型和生成式AI用例指日可待,而Arm已经为此做好准备,来挑战物联网与大模型、多模态AI结合的性能与效率极限。i9Fesmc

责编:Clover.li
本文为国际电子商情原创文章,未经授权禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
李晋
国际电子商情助理产业分析师,专注汽车电子、人工智能、消费电子等领域的市场及供应链趋势。
  • 微信扫一扫,一键转发

  • 关注“国际电子商情” 微信公众号

  • 立即涨价!机械硬盘大厂希捷提高全线NAND及HDD产品价格

    国际电子商情23日讯 最近一段时间,多家存储大厂接连发出涨价通知。继西部数据宣布涨价后,机械硬盘大厂希捷日前发出涨价函,通知客户全线NAND Flash 产品及HDD 产品持续涨价...

  • 消息称美光有望获得61亿美元芯片法案拨款

    国际电子商情18日从外媒获悉,美国芯片制造商美光科技准备从美国商务部获得高达61亿美元的政策拨款补贴...

  • 削减5000人!退市后东芝首度传出裁员

    国际电子商情18日讯 据日媒报道,在去年年底退市的东芝公司正计划启动一轮大规模裁员,将在日本裁员5000人,约占其员工总数的10%。

  • 供应链中的边缘人工智能受内存限制吗?

    随着对边缘实时决策和数据处理的需求不断增加,边缘人工智能内存限制的问题也日益凸显。自适应边缘技术不断产生数据,不但带来了机遇也带来了挑战,需要创新的解决方案来确保无缝集成。

  • NAND Flash大厂铠侠再次寻求上市

    国际电子商情17日讯 据日媒报道,全球第二大NAND Flash大厂铠侠(Kioxia,原东芝存储器)决定再次寻求上市。

  • 美光示警:DRAM供应未从台湾地震影响中恢复

    国际电子商情12日讯 有消息显示,“台湾403大地震”对半导体产业链的冲击并未消退。存储器大厂美光周四公告,4月3日发生在中国台湾的地震将对其动态随机存取存储器(DRAM)供应产生影响,预计将减少约中个位数百分比的一个季度供应量。

  • 韩国将在AI和半导体领域投资70亿美元

    国际电子商情10日讯 韩国总统尹锡悦周二表示,为保持尖端半导体芯片全球领先地位,到2027年,韩国将在人工智能(AI)和半导体领域投资9.4万亿韩元(69.4亿美元)。

  • AI需求爆发,英韧PCIe 5.0消费级主控如何激发国产存储

    当今时代,大模型预训练使用的参数量和数量已经呈现爆炸性增长。从最早的GPT2只有几十亿个参数,到GPT3的1751亿参数,再到GPT4的万亿规模参数量,大模型对算力的需求不断攀升。同时,如何在数据和参数量爆炸的背景下,高效处理和存储大规模数据,也成为当今算力基础设施面临的两大挑战。面对这些挑战,存储系统迎来新的发展机遇。

  • 商用SSD大缺?传三星拟涨价25%!

    国际电子商情2日讯 据韩媒报道,在过去的 2-3 周内,企业级固态硬盘 (SSD) 出现短缺传出短缺,全球存储巨头三星传出对SSD将涨价25%...

  • 慧荣走出并购案阴霾,“卷”进AI、汽车生态圈

    “当初是MaxLinear主动找的我们,我们从一开始就没有想要卖掉公司……”慧荣科技CAS业务群资深副总段喜亭针对此前的并购事件做了澄清。此外,他还分享了车规存储主控和AI存储解决方案,且针对存储接下来的涨势给出了新的预判。

  • 成立不满一年连发三款新品,这家企业级存储厂商有何实力

    究竟是何种契机促成了香农芯创、大普微电子、君海创芯之间的合作?这三家企业在海普存储公司分别扮演着什么角色?海普存储为什么选择从企业级存储来切入市场?海普存储新品目前的客户使用情况如何?

  • 斥资40亿美元!传SK海力士将赴美建HBM新封测厂

    国际电子商情28日讯 近日有消息称,韩国科技巨头SK海力士将投资40亿美元在美国印第安纳州西拉斐特建造一座先进芯片封装厂,瞄准当前市场上高需求的HBM芯片,并计划于 2028 年投产。

近期热点

广告
广告

EE直播间

更多>>

在线研讨会

更多>>