广告

IBM推出全球首款四核7nm AI加速器芯片

最近,IBM透露了其全球首个四核的发展AI加速器采用7nm MOSFET技术。IBM开发的新芯片使用超低精度混合8位浮点算术单元在训练过程中使用,在推理(即执行AI)过程中使用4位。

最近,IBM透露了其全球首个四核的发展AI加速器采用7nm MOSFET技术。IBM开发的新芯片使用超低精度混合8位浮点算术单元在训练过程中使用,在推理(即执行AI)过程中使用4位。VA3esmc

在典型的计算系统中,增加位宽可以提高计算能力并访问更多内存。但是,AI通常容忍低精度,并且系统的位宽越大,所需的内存就越多。因此,人工智能系统的开发人员经常尝试尽可能地减少位宽,而IBM的新型四核AI加速器将推理精度降低到了4位。VA3esmc

最终的四核AI加速器实现了80%以上的利用率在训练期间(即正在使用多少处理器),以及在推理期间超过60%,明显优于通常低于30%的GPU性能。此外,IBM还集成了独特的电源管理系统,该系统通过在执行大量计算任务时降低时钟频率来降低加速器的功耗。VA3esmc

在传统处理器上运行AI任务非常耗电,对内存的要求很高,并且整体效率极低。然而,事实证明,在受影响的行业所有领域中,日常应用中的AI应用都具有不可思议的优势。VA3esmc

尽管固定计算系统可以继续负担在高性能CPU和GPU上运行AI算法的费用,但嵌入式世界通常不得不依靠基于云的计算来执行AI算法。 这种远程计算的结果使人们越来越关注隐私,对互联网基础架构的额外压力以及请求和响应之间的长时间延迟。VA3esmc

诸如IBM开发的AI加速器,不仅允许嵌入式应用程序在本地运行AI,而且能够高效地运行。此外,在本地运行AI通过将潜在的敏感信息保留在设备本地来改善对隐私的关注,并减少延迟。AI加速器的使用还将导致低功率设备中的实时AI响应,这是当前无法实现的。VA3esmc

本文为国际电子商情原创文章,未经授权禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫,一键转发

  • 关注“国际电子商情” 微信公众号

  • 传一车企因缺芯4月将减产30%,波及主力车型!

    《国际电子商情》15讯,有消息称,受门控制器、网关控制器、中控显示屏、车身稳定控制系统等芯片短缺的影响,一汽-大众奥迪4月份将减产30%,涉及A4L、A6L、Q5L等主力车型。参考该车企3月份的销量,其4月份减产数量可能超过2万台。

  • 年净利预增1287%!长电科技最新扩产项目盘点

    国际电子商情15日讯 昨日(4月14日),国产封测巨头长电科技正式官宣,任命林敬明为公司高级副总裁,全面负责全球销售业务,直接向首席执行长郑力汇报。另据《国际电子商情》记者了解,2020年长电科技净利润同比增长高达1287%。此外,该公司在近年来还做了积极扩产(文末见表格)……

  • 预计2021年全球服务器出货量增长超过5%,ODM Direct需求

    预期2021年全球服务器出货量增长率将超过5%;而ODM Direct出货年增长则超过15%。

  • 南科14厂停电引市场猜测,台积电这样回应...

    国际电子商情15日讯,晶圆大厂台积电位于南科14厂昨(14)日中午传出突然停电引发业界担忧。尽管14日傍晚供电已经恢复,但当前全球半导体产能严重吃紧,且事件发生后有消息称事件“恐影响晶圆数量3万至6万”引发业界高度关注。对此,台积电这样回应...

  • iPhone 13将新增一颗前摄?外媒曝光全新3D渲染图

    国际电子商情14日讯 近日,境外比价门户网站MySmartPrice报道称,业内人士向其分享了iPhone 13(或iPhone 12S)的一些3D渲染图,这些图片大致展示了下一代iPhone基础版的外部设计。值得注意的是,该渲染图展示的前摄部分的细节与旧机型略有不同…… 

  • CCL大厂凌晨起火,股价受挫

    国际电子商情14日讯,CCL大厂联茂台湾新埔厂14日凌晨发生火警,联茂执行长蔡馨暳指出,目前新埔厂已全厂断电并停工...

近期热点

广告
广告

EE直播间

更多>>

在线研讨会

更多>>