据IDC统计,全球算力的需求每3.5个月就会翻一倍,远远超过了当前算力的增长速度。在此驱动下,全球计算、存储和网络基础设施也在发生根本转变,一些在通用CPU上不能得到很好处理的复杂工作负载开始转向智能网卡(SmartNIC)和DPU,以此来减轻CPU内核的负担。
市场研究机构Dell’Oro的数据显示,预计到2024年,SmartNIC市场规模将超过6亿美元,占全球以太网适配器市场的23%。而整体控制器和适配器市场将以7%的年复合增长率增长,其中25Gbps和100Gbps的销售将是主要增长驱动力。6XGesmc
之所以能够取得如此高的增长率,原因在于目前数据中心内部流量(也称横向流量)的年复合增长率都在25%以上,但与此同时,随着SDN的增加,云服务器会在CPU和软件中使用很多SDN功能,使得高达30%的数据中心计算资源被分配用于联网I/O处理云数据。6XGesmc
坦率地说,如果听之任之,这个问题随着时间的推移只会越来越严重。6XGesmc
当前,以几何级数幅度增长的联网端口速度,远超摩尔定律和Dennard缩放比例定律(Dennard’s scaling)的计算周期速度,这种差距的存在使得服务器中所有的CPU资源都将遭到挤占,而无暇顾及应用级处理,降低了CPU利用率。如果是公有云的话,他们需要把这样的资源出售给客户来进行变现。但如果不能出售这些核心内容,云服务商就会赔钱,这是一个非常严峻的问题。6XGesmc
6XGesmc
图1 端口速度超过摩尔定律6XGesmc
亚马逊和微软这样的一级云服务提供商在很多年前就意识到了上述问题的严重性,纷纷选择卸载掉服务器的联网功能,并将这部分工作转移到SmartNIC上运行,以便释放出更多的CPU核,优化服务器利用率,降低联网成本。6XGesmc
例如亚马逊收购了一家名为Annapurna的初创企业,专门开发类似的器件和SmartNIC,并在2017年发布了AWS Nitro;微软此前也通过将FPGA集成到SmartNIC上去卸载服务器的联网功能,并实现了数以百万计规模的部署;VMware则宣布将SmartNIC集成到VMware Cloud Foundation中的Project Monterey项目;而阿里云的做法是在其神龙服务器核心组件MOC卡中使用了专用的X-Dragon芯片,统一支持网络、I/O、存储和外设的虚拟化。6XGesmc
电信服务提供商则是另一大具有强劲增长潜力的市场,他们正考虑将SmartNIC从核心网集成到边缘网,为NFV和AI推断等应用提供服务。6XGesmc
不过,并非每一家公司都拥有足够的研发能力和人才储备去部署SmartNIC,因此目前有80%以上的云服务供应商尚未采用SmartNIC。相比之下,二、三级的厂商们就更加需要现成且方便的SmartNIC解决方案——无需自行开发,只需即插即用就可满足数据中心的卸载、存储和计算加速等需求。6XGesmc
2020年10月,英伟达将基于Mellanox的SmartNIC方案命名为数据处理单元(Data Processing Units, DPU),并将CPU、GPU、DPU称为组成“未来计算的三大支柱”。6XGesmc
不过,需要指出的是,从SmartNIC变为DPU并非简单的改改名字。为了在数据中心充分实现应用程序的效率,传输卸载、可编程的数据平面以及用于虚拟交换的硬件卸载等功能是SmartNIC的重要部分,但只是DPU的最基本要求之一。要将SmartNIC提升到DPU的高度,还需要支持更多的功能,比如能够运行控制平面,以及在Linux环境下提供C语言编程等。6XGesmc
说得再直白一些,DPU是面向数据中心的专用处理器,新增了AI、安全、存储和网络等各种加速功能,将成为新一代的重要算力芯片。它能够完成性能敏感且通用的工作任务加速,更好地支撑CPU、GPU的上层业务,成为整个网络的中心节点。6XGesmc
当然,我们还是要佩服黄仁勋的“带货”能力,能让DPU概念一炮而红,吸引业内众多竞争者纷至沓来。从海外的英特尔、博通、英伟达、赛灵思、Marvell、Netronome、Pensando、Fungible、Dream Big Semiconductor,到国内的DPU创企中科驭数、星云智联、大禹智芯、芯启源、云豹智能,每一家企业都在摩拳擦掌,跃跃欲试。6XGesmc
从英伟达公布的DPU产品路线图来看,BlueField-3/3X和BlueField-4将分别于2022年和2023年问世,届时,将可提供400TOPS的AI算力和400Gbps的带宽性能,从而解放GPU,只在单芯片DPU上就可实现网络、存储、安全等关键任务的加速工作。6XGesmc
Marvell今年6月最新推出的OCTEON 10系列DPU,采用了Armv9架构的Neoverse N2 CPU内核和台积电5nm制程工艺,支持最新的PCIe 5.0 I/O与DDR5内存。作为DPU的重要补充,Marvell还为OCTEON 10引入了内部机器学习(ML)引擎。这样,从本质上讲,Marvell正在成为英伟达的直接竞争对手。6XGesmc
英特尔在2021架构日上推出的全新基础设施处理器(IPU) Mount Evans其实也值得一提。按照英特尔的官方说法,IPU是一种可编程网络设备,扩展了英特尔的智能网卡功能,旨在使云和通信服务提供商减少在中央处理器(CPU)方面的开销,并充分释放性能价值。利用IPU,云运营商可以将基础设施任务卸载到IPU上,更大化实现CPU利用率和收益;客户则可以通过一个安全、可编程、稳定的解决方案更好地利用资源,使其能够平衡处理与存储。 6XGesmc
再回到国内。根据Canalys Cloud Channels Analysis预测,到2023年,中国DPU市场规模将达190亿人民币。当然,还有其它分析机构的预测更加乐观,认为中国DPU市场规模预计将在2025年超过37亿美元,约合240亿人民币。6XGesmc
中科驭数算是国内布局较早的一家DPU企业,其DPU基于自主研发的KPU(Kernel Processing Unit)架构。以KPU架构为核心,中科驭数在2019年设计了业界首颗数据库与时序数据处理融合加速芯片,已经成功流片。今年初,该公司又宣布了其下一颗DPU芯片研发计划,功能层面包括完善的L2/ L3/L4层的网络协议处理,可处理高达200G网络带宽数据,预计将于2021年底流片。6XGesmc
另一家DPU芯片企业“芯启源”则在6月宣布完成数亿元Pre-A3轮融资。这是一家针对超大规模电信和企业级的智能网络提供核心芯片和系统的高科技公司,可提供从芯片、板卡、驱动软件和全套云网解决方案产品,已获得了中国移动苏研院的首批智能网卡订单。6XGesmc
成立于2021年3月22日的星云智联专注于数据中心基础互联通信架构和DPU芯片研发,今年4月宣布完成数亿元天使轮融资。其正在研发的DPU将在IAAS和PAAS之间形成独立的CAAS(通信服务层)),实现物理资源的“多虚一”和近乎裸金属性能的“一虚多”,可以简化IAAS,提升资源利用率。6XGesmc
有行业人士表示,未来,用于数据中心的DPU量级将达到和数据中心服务器等量的级别。“每台服务器可能没有GPU,但一定会有一块或者几块DPU/IPU卡,这将是一个千亿量级的市场。”作为数字基础设施中的新物种,火热的DPU赛道未来会走出怎样一波行情,值得期待。6XGesmc
本文为《国际电子商情》2021年12月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里6XGesmc
微信扫一扫,一键转发
关注“国际电子商情” 微信公众号
受消费电子市场低迷影响,半导体产业迈入下行周期,上游半导体设备也因客户去库存、调整订单受到影响。
4月19日,香港金融管理局公布,由于美元兑港元汇率触发7.85的弱方兑换保证,根据联系汇率制度,金管局承接来自市场6
据“湖南工商大学”官微消息,近日,该校申报的工信部“集成电路”专精特新产业学院建设项目正式获批启动建设。
友达董事长彭双浪在谈到MicroLED量产时表示,期盼MicroLED成本下降速度能跟摩尔定律一样,以每两年成本降一半。
自3月以来硅料业者为减轻库存压力,出货意愿转强,而硅料新产能也在逐月增加。
TechInsights的数据显示,2023年全球翻新手机销量将同比下降8%,随后在2024年恢复增长。
近日,上汽集团发起设立了60亿元的芯片产业生态基金。
NavTechnologies是沙特领先的分销商之一,业务遍及沙特各地。作为Itel、TCL和Riversong等品牌在该国主要分销
当地时间周二(4月18日),欧盟内部市场专员蒂埃里·布雷顿表示,欧盟已就《芯片法案》敲定了一份临时协议。
据《科创板日报》报道,针对“因4~5纳米先进制程良率逐渐稳定,客户订单正逐渐增加,稼动率也相应反弹,12英寸稼动
锂离子电池(LIBs)需要活性、高效、稳定的材料和优越的结构来确保其持续运行和寿命[1,2]。了解锂离电子电池
对站在棋盘上的每一个玩家来说,“具备核心技术——能自主造芯才是保命之本”,也由此自研芯片成为了国内很多大
艾睿的深圳分公司乔迁至空间更宽阔、交通更便利的福田区“深业上城”,并于近日举办盛大的开幕典礼。
面向电子行业人士开放,4月25日,“2023年半导体产业发展趋势高峰论坛”将在深圳南山·华侨城洲际大酒店一楼大
截至2023年3月30日,全球已部署了600万个基于LoRa的网关,基于LoRa的终端节点3亿个,采用LoRaWAN连接的公共网络运
芯原的SR2000 IP可显著提升终端图像画质和显示分辨率,并大幅降低图像的传输带宽
4月12日,移远通信携手产业合作伙伴在“万物智联·共数未来”移远通信物联网生态大会5G AIoT产业链分论坛上,
QuecCloud具备智能硬件开发、物联网开放平台、行业解决方案三大能力,可为开发者和企业用户提供从硬件接入到
4月12日,以“万物智联·共数未来”为主题的2023年移远通信物联网生态大会在深圳前海华侨城JW万豪酒店隆重举
本届博览会以“创新驱动 协同发展”为主题,吸引了来自全球各地的1200余家参展企业,纷纷展示新产品、新技术、
本届博览会吸引来自全球各地的1200余家参展企业,纷纷展示新产品、新技术、新服务,展品数量超10万件,充分彰显了
由经验丰富的行政人员统领电子组装设备供应商团队
本次CITE展,人们清晰地看到了海信全场景显示布局的重要成果。海信视像拥不仅在ULED显示及激光显示方面独具优
本届电博会以“创新引领,协同发展”为主题,展会面积达8万平米,设立了CITE品牌创新主题馆、新型显示及应用馆、
分享到微信
分享到微博
分享到QQ空间
推荐使用浏览器内置分享
分享至朋友圈