据IDC统计,全球算力的需求每3.5个月就会翻一倍,远远超过了当前算力的增长速度。在此驱动下,全球计算、存储和网络基础设施也在发生根本转变,一些在通用CPU上不能得到很好处理的复杂工作负载开始转向智能网卡(SmartNIC)和DPU,以此来减轻CPU内核的负担。
市场研究机构Dell’Oro的数据显示,预计到2024年,SmartNIC市场规模将超过6亿美元,占全球以太网适配器市场的23%。而整体控制器和适配器市场将以7%的年复合增长率增长,其中25Gbps和100Gbps的销售将是主要增长驱动力。nEsesmc
之所以能够取得如此高的增长率,原因在于目前数据中心内部流量(也称横向流量)的年复合增长率都在25%以上,但与此同时,随着SDN的增加,云服务器会在CPU和软件中使用很多SDN功能,使得高达30%的数据中心计算资源被分配用于联网I/O处理云数据。nEsesmc
坦率地说,如果听之任之,这个问题随着时间的推移只会越来越严重。nEsesmc
当前,以几何级数幅度增长的联网端口速度,远超摩尔定律和Dennard缩放比例定律(Dennard’s scaling)的计算周期速度,这种差距的存在使得服务器中所有的CPU资源都将遭到挤占,而无暇顾及应用级处理,降低了CPU利用率。如果是公有云的话,他们需要把这样的资源出售给客户来进行变现。但如果不能出售这些核心内容,云服务商就会赔钱,这是一个非常严峻的问题。nEsesmc
nEsesmc
图1 端口速度超过摩尔定律nEsesmc
亚马逊和微软这样的一级云服务提供商在很多年前就意识到了上述问题的严重性,纷纷选择卸载掉服务器的联网功能,并将这部分工作转移到SmartNIC上运行,以便释放出更多的CPU核,优化服务器利用率,降低联网成本。nEsesmc
例如亚马逊收购了一家名为Annapurna的初创企业,专门开发类似的器件和SmartNIC,并在2017年发布了AWS Nitro;微软此前也通过将FPGA集成到SmartNIC上去卸载服务器的联网功能,并实现了数以百万计规模的部署;VMware则宣布将SmartNIC集成到VMware Cloud Foundation中的Project Monterey项目;而阿里云的做法是在其神龙服务器核心组件MOC卡中使用了专用的X-Dragon芯片,统一支持网络、I/O、存储和外设的虚拟化。nEsesmc
电信服务提供商则是另一大具有强劲增长潜力的市场,他们正考虑将SmartNIC从核心网集成到边缘网,为NFV和AI推断等应用提供服务。nEsesmc
不过,并非每一家公司都拥有足够的研发能力和人才储备去部署SmartNIC,因此目前有80%以上的云服务供应商尚未采用SmartNIC。相比之下,二、三级的厂商们就更加需要现成且方便的SmartNIC解决方案——无需自行开发,只需即插即用就可满足数据中心的卸载、存储和计算加速等需求。nEsesmc
2020年10月,英伟达将基于Mellanox的SmartNIC方案命名为数据处理单元(Data Processing Units, DPU),并将CPU、GPU、DPU称为组成“未来计算的三大支柱”。nEsesmc
不过,需要指出的是,从SmartNIC变为DPU并非简单的改改名字。为了在数据中心充分实现应用程序的效率,传输卸载、可编程的数据平面以及用于虚拟交换的硬件卸载等功能是SmartNIC的重要部分,但只是DPU的最基本要求之一。要将SmartNIC提升到DPU的高度,还需要支持更多的功能,比如能够运行控制平面,以及在Linux环境下提供C语言编程等。nEsesmc
说得再直白一些,DPU是面向数据中心的专用处理器,新增了AI、安全、存储和网络等各种加速功能,将成为新一代的重要算力芯片。它能够完成性能敏感且通用的工作任务加速,更好地支撑CPU、GPU的上层业务,成为整个网络的中心节点。nEsesmc
当然,我们还是要佩服黄仁勋的“带货”能力,能让DPU概念一炮而红,吸引业内众多竞争者纷至沓来。从海外的英特尔、博通、英伟达、赛灵思、Marvell、Netronome、Pensando、Fungible、Dream Big Semiconductor,到国内的DPU创企中科驭数、星云智联、大禹智芯、芯启源、云豹智能,每一家企业都在摩拳擦掌,跃跃欲试。nEsesmc
从英伟达公布的DPU产品路线图来看,BlueField-3/3X和BlueField-4将分别于2022年和2023年问世,届时,将可提供400TOPS的AI算力和400Gbps的带宽性能,从而解放GPU,只在单芯片DPU上就可实现网络、存储、安全等关键任务的加速工作。nEsesmc
Marvell今年6月最新推出的OCTEON 10系列DPU,采用了Armv9架构的Neoverse N2 CPU内核和台积电5nm制程工艺,支持最新的PCIe 5.0 I/O与DDR5内存。作为DPU的重要补充,Marvell还为OCTEON 10引入了内部机器学习(ML)引擎。这样,从本质上讲,Marvell正在成为英伟达的直接竞争对手。nEsesmc
英特尔在2021架构日上推出的全新基础设施处理器(IPU) Mount Evans其实也值得一提。按照英特尔的官方说法,IPU是一种可编程网络设备,扩展了英特尔的智能网卡功能,旨在使云和通信服务提供商减少在中央处理器(CPU)方面的开销,并充分释放性能价值。利用IPU,云运营商可以将基础设施任务卸载到IPU上,更大化实现CPU利用率和收益;客户则可以通过一个安全、可编程、稳定的解决方案更好地利用资源,使其能够平衡处理与存储。 nEsesmc
再回到国内。根据Canalys Cloud Channels Analysis预测,到2023年,中国DPU市场规模将达190亿人民币。当然,还有其它分析机构的预测更加乐观,认为中国DPU市场规模预计将在2025年超过37亿美元,约合240亿人民币。nEsesmc
中科驭数算是国内布局较早的一家DPU企业,其DPU基于自主研发的KPU(Kernel Processing Unit)架构。以KPU架构为核心,中科驭数在2019年设计了业界首颗数据库与时序数据处理融合加速芯片,已经成功流片。今年初,该公司又宣布了其下一颗DPU芯片研发计划,功能层面包括完善的L2/ L3/L4层的网络协议处理,可处理高达200G网络带宽数据,预计将于2021年底流片。nEsesmc
另一家DPU芯片企业“芯启源”则在6月宣布完成数亿元Pre-A3轮融资。这是一家针对超大规模电信和企业级的智能网络提供核心芯片和系统的高科技公司,可提供从芯片、板卡、驱动软件和全套云网解决方案产品,已获得了中国移动苏研院的首批智能网卡订单。nEsesmc
成立于2021年3月22日的星云智联专注于数据中心基础互联通信架构和DPU芯片研发,今年4月宣布完成数亿元天使轮融资。其正在研发的DPU将在IAAS和PAAS之间形成独立的CAAS(通信服务层)),实现物理资源的“多虚一”和近乎裸金属性能的“一虚多”,可以简化IAAS,提升资源利用率。nEsesmc
有行业人士表示,未来,用于数据中心的DPU量级将达到和数据中心服务器等量的级别。“每台服务器可能没有GPU,但一定会有一块或者几块DPU/IPU卡,这将是一个千亿量级的市场。”作为数字基础设施中的新物种,火热的DPU赛道未来会走出怎样一波行情,值得期待。nEsesmc
本文为《国际电子商情》2021年12月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里nEsesmc
微信扫一扫,一键转发
关注“国际电子商情” 微信公众号
我国一些沿海省份也推出了类似的政策计划,力图利用ICT技术促进海洋经济发展,同时保持环境的可持续性。
2022年第三季度,中国大陆可穿戴腕带市场仍持续疲软,整体出货1210万台,同比下滑7.0%。
微软、苹果、惠普、联想、IBM、佳能等26家计算机软件信息服务企业2022年第三季度业绩。
大众旗下品牌斯柯达考虑退出中国市场。微软已经收购了Lumenisity Limited。爱立信与苹果签署全球专利许可协
LED大厂富采2022年以来受到景气衰退及消费型电子产品需求减弱影响,业绩不如预期,初估第四季营收可能低于上季
近日,多个半导体产业项目迎来新进展,涉及项目包括浙江丽水中欣晶圆12英寸硅片外延项目、西安第三代化合物半导
世界半导体贸易统计组织(WSTS)统计的数据显示,2021年全球半导体存储器市场规模约为1538亿美元。目前,存储市场长
众所周知,经过多年的发展布局,中国已经成为全球规模最大的集成电路市场之一。面对中国庞大的市场需求,近年来,一
上汽、比亚迪、北汽、长城、长安、蔚来等中国18家汽车企业2022年三季度财报汇总
台积电、三星、英特尔、高通、阿斯麦、中芯国际等34家半导体企业2022年第三季度财报汇总。
【招银研究|宏观点评】CPI通胀延续回落,PPI通胀低位企稳——2022年11月物价数据点评。
【招商银行|2023年展望④】资本市场:迎接转折之年
领先于智能电源和智能感知技术的安森美,12月9日宣布获ASPENCORE多个奖项,包括VE-Trac™ Direct SiC 获2022之
2022年12月9日,航顺芯片在深圳罗湖区的新总部,举办了HK32MCU 2022新品发布会暨航顺芯片大厦乔迁仪式。这家20
2022年12月7日,以通过与海洋栖息地和平共处,应对海岸侵蚀问题为使命的CCell公司,昨晚在伦敦力压群雄,从13个竞争
Qorvo与联发科协作设计支持 5G、Wi-Fi 6、Wi-Fi 6E 和 Wi-Fi 7……
对于愈加重视健康的现代人而言,抬腕看表,已远不止于看时间:运动时,实时监测心率和燃脂水平;起床后,查看整夜血氧监
2022年7月,人力资源与社会保障部发布第二季度《全国招聘大于求职“最缺工”的100个职业排行》 ,“焊工”赫然
2022年,百年变局与世纪疫情相互交织,“寒冬论”席卷而来,断裂性变化在各个领域全面爆发,产业链发展引擎更换顺势
据行业研究机构IDC预测,中国物联网市场规模将在2025年超过3000亿美元,占比全球约26.1%。安防行业作为物联网的
2022年11月11日,在2022国际集成电路展览会暨研讨会(IIC Shenzhen)的全球分销与供应链领袖峰会上,泰滔电子驻华
2022年11月15日,由芯师爷主办、慕尼黑华南电子展协办、深圳市半导体行业协会支持的“第四届硬核中国芯领袖峰
安森美与梅赛德斯-奔驰战略合作的一部分,是为这家汽车制造商提供高能效碳化硅(SiC)功率模块,以增加其VISION EQX
全球领先的综合电子元器件制造商村田中国(以下简称“村田”)在第十八届国际物联网展(IOTE)展出了针对工业级和消
分享到微信
分享到微博
分享到QQ空间
推荐使用浏览器内置分享
分享至朋友圈