AI领域的从业者认为,ChatGPT是AIGC(AI Generated Content,利用人工智能技术来生成内容)应用的新起点,随着深度学习模型不断完善、开源模式的推动、大模型探索商业化的可能,AIGC有望进入应用爆发期。ChatGPT技术的商用落地,对半导体行业有哪些推动作用?
当前,最火的人工智能(AI)应用当属ChatGPT,它是OpenAI发布的聊天机器人程序。ChatGPT与用户对话时可结合上下文做出反应,还支持写代码、写邮件、写脚本、写文案等文字输出型任务。Qeaesmc
由于ChatGPT在问答环节的优异表现,该程序一经推出就受到了全球市场的关注,上线两个月后注册用户人数就突破一亿。在此背景下,ChatGPT背后蕴含的巨大市场潜力还有待挖掘,该技术可望撬动海量的应用场景。Qeaesmc
AI领域的从业者认为,ChatGPT是AIGC(AI Generated Content,利用人工智能技术来生成内容)应用的新起点,随着深度学习模型不断完善、开源模式的推动、大模型探索商业化的可能,AIGC有望进入应用爆发期。ChatGPT技术的商用落地,对半导体行业有哪些推动作用?Qeaesmc
从本质上而言,ChatGPT是一类AI语言模型。官方资料显示,ChatGPT是在GPT 3.5模型基础上微调而成。ChatGPT与InstructGPT是姊妹模型,它们均采用了大型语言模型(Large Language Model,LLM)生成领域的新训练范式——RLHF(Reinforcement Learning from Human Feedback),即以强化学习方式依据人类反馈优化语言模型,两者仅在数据收集设置上有细微区别。Qeaesmc
根据ChatGPT向用户的透露的信息,RLHF是一种使用了强化学习的方式,可直接优化带有人类反馈的语言模型。实际上,它涉及到多个模型和不同训练阶段,其技术可大致分解为以下三点:第一,预训练一个语言模型(LM) ;第二,聚合问答数据并训练一个奖励模型(Reward Model,RM);第三,用强化学习(RL)方式微调LM。总而言之,RLHF可增强人类对模型输出结果的调节,并且还能对结果进行更具理解性的排序。Qeaesmc
Qeaesmc
关于ChatGPT的介绍 图片来源:OpenAI官网Qeaesmc
再观察GPT 3.5之前的GPT-3模型,其参数量高达1,750亿个,训练所需数据量达45TB。通过使用RLHF的训练方法,即使InstructGPT只有13亿个参数量,它的输出效果也依旧优于GPT-3。OpenAI公布的资料显示,InstructGPT与ChatGPT是姊妹模型,由此可猜测两者的参数量可能相差不大。Qeaesmc
也许有读者对于参数量缺乏具体的概念,本文通过列举一个通俗的例子来解释——2020年9月,微软获得了OpenAI GPT-3的独家授权,该公司为训练GPT-3建设了一个超算中心,该中心的超级计算机装载了一万张英伟达GPU。而训练GPT-3消耗了微软355个GPU年的算力(1块GPU运行355年的算力),单次训练费用更是高达460万美元。不过,截至发稿日,笔者未查询到ChatGPT模型训练费用信息。Qeaesmc
ChatGPT是一个AI模型,它离不开算力的支持——在训练阶段,需要大量的语料数据来训练模型,在应用阶段,需要大算力服务器来支持模型的运行。即使ChatGPT的参数量可减少到数十亿个,训练和运行它也需消耗很大的计算资源。Qeaesmc
OpenAI ChatGPT的现象级走红,推动科技公司加快类ChatGPT产品的部署。近期,谷歌、微软、百度等企业都宣布将提供AI模型服务,其中谷歌将推出由LaMDA模型支持的对话式人工智能服务Bard,微软在搜索引擎Bing中嵌入了OpenAI的GPT-3.5,百度将推大模型新项目“文心一言”,最初版本将嵌入搜索服务中。Qeaesmc
随着更多科技公司部署类ChatGPT服务,为训练AI模型将需要巨大的算力,这种需求也让一些企业看到了AI算力服务的商机。2023年2月10日,浪潮信息推出AI算力服务产品。该公司表示,将基于中国领先智算中心的算力基础设施,为中国客户提供AI算力资源和配套服务,支撑AI模型构建、训练和推理的业务全流程,赋力生成式AI产业创新。Qeaesmc
当然,资金雄厚的科技巨头可能会搭建自己的计算中心。例如,前文所述的微软的超级计算机,该中心设备用于在Azure公有云上训练超大规模的AI模型。据了解,该中心装载了超过28.5万个CPU、1万个GPU,其中单个GPU服务器的网络连接能力达400Gb/s,该设备算力峰值达每秒可执行23.5-61.4个万亿浮点运算。Qeaesmc
购买AI算力服务和搭建计算中心,都需要大规模的计算机设备的支持。Qeaesmc
Qeaesmc
表1:超级计算机和智能计算机的区别Qeaesmc
在进一步讨论时,首先要厘清一个概念——算力是代表处理数字化信息能力的强弱,不同类型的算力存在着较大的差别。比如,超级计算机的算力单位是FLOPS(每秒浮点运算能力),而智能计算机的算力单位是OPS(每秒操作次数),这是两个不同的概念。Qeaesmc
另外,衡量算力水平还要考虑算力精度。瞭望智库指出,目前业界用于衡量超级计算的Linpack测试,测试的是超级计算机的“双精度浮点运算能力”,即64位浮点数字的计算(FP64)。此外,在以二进制所表示数字精度中,还有单精度(32位,FP32)、半精度(16位,FP16)以及整数类型(如INT8、INT4)等。数字位数越高,意味着精度越高、可支持的运算复杂程度越高,其能适配应用场景越广。Qeaesmc
智能计算机是一种专用算力设备,它在推理或训练等智能计算方面表现出色,但大多数智能计算机不具备高精度数值计算能力;超级计算机是一种通用算力设备,其设计目标是提供完备、复杂的计算能力,在高精度计算能力更强,应用范围更广,主要被科研人员用于行星模拟、新材料开发、基因分析等科学计算和大数据处理。Qeaesmc
AI模型训练只需用到智能计算机,但目前的智能计算机技术还不成熟,仅在模式识别、知识处理及开发智能等方面有应用。尽管当前该类设备还未达到预期目标,但它在文字、语音、图形图像识别与理解,以及机器翻译等领域取得了一些进展,同时相关初级产品也已经问世。Qeaesmc
如前文所述,AIGC的出现有望撬动AI大规模落地的场景。同时,相关企业在多个AI产业链的布局将更深入。比如,在硬件层包括芯片和传感器,其中AI芯片主要有通用型的GPU、可定制的FPGA、专用的ASIC,以及类脑芯片。英伟达的Orin芯片基于通用GPU,地平线的征程5芯片,既是ASIC芯片,也是DSA(特定领域架构)芯片;类脑芯片有IBM的TrueNorth、英特尔的Loihi、高通的Zeroth、西井科技的DeepSouth、杭州电子科技大学的达尔文、aiCTX的DynapCNN处理器等。Qeaesmc
整体而言,AI芯片供应商主要有英伟达、AMD、Intel、VelociHOST、景嘉微、地平线、寒武纪、比特大陆、复旦微、赛灵思、Altera(英特尔旗下)、异构智能、谷歌等;传感器部分有舜宇光学、禾赛科技等供应商;算法层有商汤科技、旷视科技、云从科技、依图科技、第四范式等;应用层有海康威视、科大讯飞、锐明技术等。Qeaesmc
虽然智能计算机并不追求太大的算力频率,但是其对芯片的功耗和散热要求较高,所以,低功耗的FPGA和ASIC芯片在智能计算机上有更大的用武之地。与此同时,AI芯片也将从面向厂商的训练场景为主,转变为面向消费者的推理场景为主。业内AI专家对此评价称,GPU的高并行计算能力和高通用性的协调统一,在消费者时代的统治力或许难以为继,未来ASIC芯片、中国产GPGPU芯片或将能切入MaaS(出行即服务)产业生态。Qeaesmc
或许会有读者联想到,理论上,更大的算力意味着更多的计算机设备,搭建这些设备也需要更多的核心器件。这是否意味着,企业对类ChatGPT技术的追求,对服务器产业链的发展起到积极的促进作用?Qeaesmc
笔者在表2中列举了一些全球服务器产业链信息,主要涉及到关键器件及整机供应商。Qeaesmc
Qeaesmc
表2:服务器核心器件及整机供应商不完全盘点Qeaesmc
服务器主板是专门为满足服务器应用而开发,要求具备高稳定性、高性能、高兼容性的特点。本表列举的服务器主板供应商集中在中国和美国,比如美国的英特尔、超微;中国大陆的联想等,以及中国台湾的华硕、技嘉、微星、泰安(神达旗下)等。Qeaesmc
Qeaesmc
图1:x86服务器CPU与非x86服务器CPU的市场占比 制图:国际电子商情 数据来源:综合自各研报Qeaesmc
截至2023年Q1,全球约有90%的服务器CPU采用x86架构,剩下的10%左右采用非x86架构。目前,英特尔占据了x86服务器CPU 90%以上的市场份额,同为x86架构阵营的AMD虽然近年来在PC CPU领域穷追猛打,但在服务器CPU方面其份额还难以撼动英特尔的地位。IBM的CPU采用Power架构,其全球市场占也比与英特尔低。另外,中国台湾的Cyrix(被威盛电子收购),中国大陆的海思、中科院计算所、天津飞腾、申威科技等也有服务器CPU产品,但这些企业的市占比与英特尔有很大的差距。Qeaesmc
AI模型需要大量的深度学习和机器训练,比如参数量达1,750亿个的GPT-3,需要用到大量的英伟达V100(32GB)、A100和H100(80G)GPU产品的支持。目前,英伟达A100、H100 GPU产品已经被亚马逊AWS、微软Azure、谷歌云、甲骨文等公司采用。另据IDC统计资料显示,在中国的GPU服务器领域,英伟达的市占率也高达95%,几乎所有的云服务提供商和超算都采用英伟达的芯片来支持AI计算。Qeaesmc
此外,AMD、Intel、VelociHOST等美资企业也生产GPU产品;中国的GPU供应商则有景嘉微、长沙韶光(航景科技子公司)等。Qeaesmc
本表格列举的存储相关供应商的业务涉及到内存、外存(硬盘)和内存接口芯片。Qeaesmc
目前,内存接口芯片已经升级到DDR5世代,供应商有澜起科技、Rambus、IDT三家。虽然速率为4800MT/s的DDR5在PC笔电的渗透快于服务器,但是只有当传输速率达到6400MT/s时,PC端才需要搭载DDR5内存接口芯片。因此,当前DDR5内存接口芯片在服务器上的应用更多,预计在2022-2024年三年期间,服务器端DDR5的渗透率分别为15%、40%、60%。Qeaesmc
内存供应商有韩国的SK海力士、三星电子等,美国的美光科技、金士顿等,中国的金泰克、芝奇(台湾)等;外存供应商有美国的西部数据(含旗下闪迪)、希捷等,中国的联想、金泰克等。Qeaesmc
在服务器整机部分,笔者主要列举了中美两国的供应商。Qeaesmc
美国有戴尔、HPE、IBM、思科等;中国有华为、新华三、浪潮、联想、中科曙光、山东超越等。Qeaesmc
超级计算机和智能计算机有多台服务器组成。客观上,科技企业对类ChatGPT服务的追捧,有利于全球服务器产业链的发展,但是这种作用恐怕难以在短期内体现。据分析机构的预测,2023年全球服务器整机市场的表现并不太好。Qeaesmc
2023年1月底,集邦咨询修正了对2023年全球服务器整机市场的预测数据,增速下调至1.87%。该机构表示,受全球经济持续疲软影响,北美四大云端服务供应商下修了2023年服务器采购量,且数字可能将持续下调,下修幅度从大到小依次为Meta、微软、谷歌、亚马逊云科技。这四家企业的服务器采购量由原先预估的同比增长6.9%,降至4.4%,这将影响2023年全球服务器整机出货年增率下降到1.87%。Qeaesmc
其实,已确定部署类ChatGPT的企业,主要是一些规模大、实力强的巨头,毕竟部署这类业务需要极大的算力,训练和验证模型的成本也非常昂贵。相信随着更多此类技术进一步产业化,市场上还会出现不同的细分业务模式。Qeaesmc
微信扫一扫,一键转发
关注“国际电子商情” 微信公众号
暂时没有任何迹象表明需求会上升,预计未来几个月还将出现萎缩。
过去几年,因受到新冠疫情影响及政治地缘关系的挑战,欧洲曾出现了前所未有的芯片短缺现象,对欧洲汽车、能源、通信、卫生以及安全等领域造成很大的威胁。在此背景下,欧盟进一步将芯片视为重要战略资源,推出了相关芯片产业扶持政策以加强芯片供应链自主。
国际电子商情7日讯 研究机构在当地时间周三(5日)发布报告结果显示,ABF载板行业在2023年一季度进入低谷,衰退明显。但预计在2023年下半年在PC、笔记本、服务器的带动下,ABF载板行业有希望走出下降趋势,看到需求的复苏。
预算受到抑制、成本增加和生产力下降正在挤压 CMO 的消费能力
欧盟机器人2022年销售量增长 6%
IPC发布6月经济展望报告
美国一直所说的“去全球化”、“去风险化”,其实是想在全球化的情况下将中国一脚踢开。因此,对中国来说,现在面临的最基本也是最严峻的问题,就是芯片问题。
三季度即将开启,是否预示消费电子需求将触底反弹?
2023年上半年已经过去,过去几个月电子供应链的信号一直令人沮丧。ECIA 5月份零部件销售信心指数较4月份预期大幅下降70多个点。美国5月份PMI连续第七个月收缩,没有需求上升的迹象。电子产品订单反弹的希望已被推迟到第三季度。
从供应链角色的变化中可看出,车企一方面在尝试绕过中间环节,直接与元器件供应商进行合作,另一方面也在增加更多供货渠道,在供应链中纳入了分销商这一角色。其实,无论是哪一种合作模式,都是为打造更稳固的供应链。
所有电子工程毕业生都会接受一些射频课程,但射频工程师却异常罕见,为什么?
国际电子商情30日讯 综合外媒报道,中国智能手机品牌小米位于印度的子公司前员工和现员工表示,由于内部重组、市场份额下降以及印度政府机构的审查力度加大,小米印度的员工人数将减少至1000人以下。
7月13日,兆驰股份发布2023上半年业绩预告。
7月13日消息,据sammobile报道,三星现已在韩国推出了98英寸8KNeoQLED电视,型号为QNC990,售价为4990万韩元(当前约2
近日,山东省人民政府办公厅印发《实施先进制造业“2023突破提升年”工作方案》(以下简称《工作方案》)。
受惠于生成式人工智能应用市场的成长,在各云端运算供应商与IC设计公司发展人工智能芯片的情况下,台积电相关订
7月12日,教育部部长怀进鹏在全国高校科技创新暨优秀科研成果奖表彰大会上表示,将针对核心技术“卡脖子”问题,
7月13日,华为在其2023创新和知识产权论坛上公布了三项专利许可收费标准,分别为手机、Wi-Fi和物联网。
美国零售联合会(NRF,National Retail Federation)发布按2022财年零售量排序的2023年度“美国零售百强”榜(20
一年的结束通常是回顾和反思的时候。
近日半导体行业动态频频,一批半导体项目先后签约、竣工、投产,涵盖了半导体设计、材料、制造、设备等多个领域
【招银研究|宏观点评】企业贷款边际修复——2023年6月金融数据点评
根据外媒报导,英特尔(Intel)已经证实,将停止对NUC(Next Unit of Compute,下一代计算单元)业务的直接投资,并转变策略
当地时间7月11日,欧洲议会通过了一项通过促进生产和创新确保欧盟芯片供应的计划,并制定了应对芯片短缺的紧急
2023年7月11日,矽典微发布新一代智能毫米波传感器SoC ICL1112、ICL1122两款芯片。提升了超低功耗检测和极远
传感解决方案释放AIoT和数字化全部潜力,实现“万物互联和AI无处不在”。
新能源转型浪潮下,整个汽车行业的供应链体系正在发生着意义深远的变化。
本次在中国举办3地巡回论坛,就是为了向国内RISC-V产业圈布道自身在RISC-V领域的能力图谱,并重磅宣布SiFive亲
报告显示,消费者期望了解车辆材料和零部件的来源和可持续性水平,并获得汽车制造过程中端到端的可见性。
集成电路(IC)作为电子信息产业的基石,是关系国家安全和国民经济命脉的战略性、基础性和先导性产业。而IC设计是
2023年7月4日,业内知名的数字前端EDA供应商思尔芯(S2C),发布了最新一代原型验证解决方案——芯神瞳逻辑系统S8-4
贸泽电子 (Mouser Electronics)宣布将于7月11日-13日重磅亮相2023慕尼黑上海电子展。届时,贸泽电子将携手国
WhisperExtractor依靠一项颠覆性技术,解决了希望实现语音用户互动或声音分类的电池供电设备的主要挑战之一,即
人类在面对重大自然灾害、事故、突发公共卫生事件时,应急通信保障必不可少,有这么一家公司,通过将无人机与小型
近日, 2023中国独角兽企业大会在苏州举办,亿铸科技荣登 “2022中国潜在独角兽企业榜“。
Cirrus Logic 助专业音频产品制造商轻松集成和定制其产品,音频体验不受转换器影响
点击查看更多
北京科能广告有限公司深圳分公司 版权所有
分享到微信
分享到微博
分享到QQ空间
推荐使用浏览器内置分享
分享至朋友圈