数据重力与数据惯性，工业与医疗物联网的老革命遇上了新课题

作为赛灵思(Xilinx)第四大业务部门，工业、视觉、医疗和科学(ISM)部门2019财年实现营收8.1亿美元，占据公司30亿美元总收入的27%。赛灵思ISM部门市场总监Chetan Khona，一位在赛灵思工作了19年的老兵，日前对《国际电子商情》记者表示，尽管赛灵思一直以FPGA的发明者而著称，但真正驱动其在工业领域发展的却是Zynq SoC。尤其是近两年来，伴随着Zynq和Zynq UltraScale+ SoC的正式投产，赛灵思ISM部门的营收实现了2.5倍的增长。JI1esmc

赛灵思工业、视觉、医疗和科学(ISM)部门市场总监Chetan KhonaJI1esmc

滚滚而来的数据洪流

Chetan Khona援引Forbes的数据称，目前全球工业物联网(IIoT)和医疗物联网(HcIoT)的数据正呈现爆炸式增长态势——全球90%的数据创建于过去两年，每天创建的数据是2.5艾字节(2.5EB，1艾字节等于10的18次方字节），2019年将有60尧字节(60YB，1尧字节等于10的24次方字节)用于人工智能。JI1esmc

对于工业物联网来说，海量数据首先可以用做预测性维护，从而能够尽可能降低工厂停工时间，从而保障盈利和利润；其次，可以做出资产分析来更好的了解客户的购买习惯，从而创造新的收入流；第三则是连接性。通过远程诊断和OTA更新延长产品的使用寿命，降低更新换代的成本。对于医疗物联网来讲，通过数据则可以更好的改善医院和诊所的工作效率，并以此提高时间的利用率，提高对患者的服务，改善人们的生活质量。JI1esmc

但与此同时，数据爆炸也带来了包括稳私问题、随时间变化的安全性、影响安全性的时延和响应、数据管理成本以及缺乏可靠的互联网连接在内的诸多问题。一项调查显示，目前，全球已安装超过1亿台医疗物联网设备，2020年将增长到1.61亿台。受访的医疗高管表示，在当前阻碍医疗组织采用物联网的三大障碍中，隐私问题占59%，原有系统集问题成占55%，安全问题占54%。JI1esmc

数据驱动下的边缘AI与两化融合

“在谈论IIoT和HcIoT的时候，我想强调一下两个概念：数据重力和数据惯性。”Chetan Khona说这两个名词分别由Dave McCrory和Lew Tucker提出，核心理念是强调数据在哪里收集就应该在哪里处理，这样操作的效率和成本都是最优的。换句话说，就是不必把数据运送到处理所在的位置，而是把处理推送到数据所在的位置。 JI1esmc

JI1esmc

他列举了两个实际案例：一是从纽约到洛杉矶的距离是2800英里，如果用光纤传输信息，光速为186000英里每秒，往返时间就是30毫秒。但是按照要求，要在10毫秒进行控制。二是一家电厂用于云数据存储服务的费用高达每月1.3万美元。JI1esmc

这说明，无论是远距离对速率的要求，还是从成本费用的省节来考虑，都需要提高本地化应用部署。JI1esmc

“有很多客户被灌输的概念是都要通过数据连接到云端去解决具体问题。但是赛灵思并没有采用这样的方法，我们根据最合理的方式来配置我们的计算资源——适合在器件端解决的就在器件端解决，适合在云端解决的就在云端解决。”Chetan Khona认为，应该把智能定义在边缘，在这些模拟数据边界上对数据进行处理，是效率和效能最优的方式。JI1esmc

他强调说，赛灵思解决方案可延长市场寿命并提高投资回报率，可以有针对性地在问题痛点的物理位置提供计算资源。这里有两个关键点，延长市场寿命可以理解为无论未来的处理需求如何演进，赛灵思的产品都能够提供支持，有足够的性能作为支撑；而在物理位置提供计算资源则强调了智能的边缘计算。JI1esmc

除了驱动边缘智能外，IIoT与HcIoT大数据对开发者创建方式的改变也不容忽视。JI1esmc

10年前，一家公司内部会有多个工程师团队，他们在设计方面会做出独立的决策，比如有团队会选择PPC、VxWorks、CAN，或是选择arm、Linux、MQTT，还有人会选择x86、Windows、OPC UA。他们之所以能够自主的选择这些系统，是因为当时这些系统还非常的简单。但现在情况不同了，IIoT与HcIoT系统日趋复杂，工程师团队越来越多的开始选择公共平台。JI1esmc

这集中体现在当前工业界最热门的“两化融合”趋势中。两化，即信息化(IT),以思科、华为为代表；自动化(OT), 以西门子自动化为代表。两化融合的过程非常复杂，嵌入式设计不仅要考虑软件和硬件，还要考虑到与云开发者(SaaS)之间的信息连接。如果按照10年前的方法，大家各自为政，选用不同的处理架构、操作系统和连接标准，这对嵌入式开发者和云开发者来说都太困难了，他们双方需要不断的去进行调整和改变，但如果能有一个公共的架构和平台帮助双方非常迅速简易的去实现对接，那情况将大不一样。 JI1esmc

JI1esmc

“根据调查，开发者现在已经把赛灵思视作未来开发使用SoC产品中的前三大工具提供商之一，Zynq和Zynq UltraScale+ SoC是他们的首选。比如Zynq SoC中的Arm系统就能够为云开发提供服务，同时还能提供IT和OT的支持，以及提供FPGA的定制化。”JI1esmc

三把利器

工业与医疗物联网解决方案堆栈、Alveo加速器卡、互补的边云协作是ISM部门的三把利器。JI1esmc

Chetan Khona表示，在工业与医疗互联网中，一些用户需要所有方案，一些方案面向所有用户，而降低开发成本，尤其是软件开发成本则是大多数人的共同诉求。因此，在堆栈中，赛灵思提供了从芯片架构、功能和网络安全，到嵌入式视觉/软件，再到EDGE AI和应用的完整解决方案，希望通过将赛灵思在工业领域的传统优势(工业实时和确定性控制与接口、工业生命周期、质量、可靠性、安全性、温度与功耗等)与业界领先的AI时延与性能相结合，帮助客户开发他们所需要的产品和应用。当用户不可能去使用多个器件的方案时，如果采用赛灵思的单芯片解决方案就能够确保高度的集成，达到最高的成本有效性。JI1esmc

这些支持实现低时延、高性能的DNN解决方案，有些是赛灵思自主开发的方案，也有些是去年通过并购深鉴科技获得的技术和能力，还有些是通过和KORTIQ、HALCON、SiliconSoftware等企业展开合作获得的。JI1esmc

Chetan Khona根据不同的应用场景对人工智能的需求有不同的解决方案，简单来说，性能需求高的AI我们支持低时延、高性能DNN的解决方案，针对轻量型AI则提供Pynq，即Python + Zynq的学习开源解决方案。Pynq是赛灵思几年前开发的开源产品，考虑到很多年轻工程师最主要使用的编程语言是Python，所以赛灵思借助很多开源实验室开发了这一产品，非常受年轻工程师群体的欢迎。JI1esmc

下图展示的是赛灵思AI计算性能相比高端CPU和GPU时的数据。可以看出，当进行高批量处理时，赛灵思方案性能是GPU的2倍，CPU的43倍；当延时低于7毫秒时，赛灵思对GPU的优势从2倍扩大到2.5倍，，对CPU则从43倍提升至72倍；如果延时低于2毫秒，对GPU的优势则将扩大到8倍。 JI1esmc

JI1esmc

之所以能做到如此突出的边缘人工智能性能，Chetan Khona认为灵活的架构和模型剪枝功不可没。众所周知，人工智能和机器学习的架构是快速变化的，两年前人工智能推断最优的精度是16位浮点，但现在普遍认为8位定点是最优的，按照这一趋势，未来还将从8位定点变为1位定点，使得性能和精度得到不断提升。这种情况下，不够灵活的ASIC芯片应对起来就会相当吃力。JI1esmc

另一方面，对一个模型中无用的节点进行剪枝，可以帮助其从低性能转向高性能，但对精度不会有任何损失，同时也能够不断的改善性能，降低功耗。据介绍，知名人工智能公司旷视的许多摄像头和其他设备就在使用赛灵思的边缘人工智能。 JI1esmc

JI1esmc

赛灵思Alveo加速器卡是一个集成的开发板，可以帮助客户另行投入生产，在加速卡里写入软件，插入PC卡槽里，就相当于CPU加速卡，加速性能非常明显。数据显示，相比传统方案，Alveo加速器卡可将数据库搜索和分析、金融计算、机器学习、视频处理和高性能计算与生命科学能力分别提升90倍、89倍、20倍、12倍和10倍。JI1esmc

而在边云协同方面，一个有意思的现象是云服务提供商正在把部分云端功能迁移至端侧，因为他们发现对工业和医疗物联网而言云端的延时高，传输需求大，客户花费大量时间进行数据传输但结果并不理想。JI1esmc

最近，赛灵思和亚马逊云服务进行了一项合作，在Greengrass框架下将部分云端移动到边缘，大大减少了数据传输和延时的压力。另外，连接时断时续也是云连接存在的情况，如果智能放在边缘，即使云端连接丢失也依然能够正常运行。目前，赛灵思和亚马逊云计算、阿里云、Microsoft Azure、谷歌、IBM都在进行这方面的合作。JI1esmc

赛灵思最新产品ACAP将于2019年下半年发货，在其首个产品系列Versal产品中，重点面向工业领域的AI Edge， 将作为Versal 的一个子系列产品于2020年面世。按照Chetan Khona的说法，AI Edge既是一种能力，也是Versal的子系列，强调低功耗和高性能，可用于机器视觉、超声设备和超声手持设备等系统。目前，Zynq SoC和Zynq UltraScale+ SoC中均已部署了AI Edge，他相信等部署完毕之后，AI Edge可以将功耗尺寸做到最低，为机器学习及其他人工智能领域提供最佳性能。JI1esmc

 JI1esmc