半导体

边缘计算加速神经网络加速器兴起 Imagination推新一代Series4 系列

作者:陈炳欣来源:中国电子报、电子信息产业网发布时间:2020-11-16 16:52我要评论

在5G商用大潮的推动下,边缘计算(edge computing)开始受到重视,人工智能在端侧的应用也逐渐展开。近日,Imagination公司在时隔两年之后,推出新一代神经网络加速器(NNA)产品IMG Series4系列。该产品系列在前代Series2NX、Series3NX的基础上进行了架构创新,可实现500 TOPS(每秒万亿次操作)甚至更高的算力。在发布会上,Imagination Technologies视觉和人工智能部门高级总监Andrew Grant表示,Series4 NNA将主要面向先进驾驶辅助系统(ADAS)和自动驾驶应用,可为大型神经网络工作负载提供低带宽和极低的延迟。

160551708083275066.jpg

500TOPS,Series4实现高性能、低功耗

人工智能芯片首先在云端服务器市场得到应用,目前在5G商用大潮的推动下,边缘计算开始受到重视。5G网络定义三大应用场景:eMBB(增强型移动宽带)、mMTC(海量机器类通信)、uRLLC(超可靠、低时延通信)。强调高带宽、低延时和海量设备连接是5G时代信息通信的主要特征。特别是今年7月R16版本宣布冻结,面向车联网应用,支持了V2V(车与车)和V2I(车与路边单元)直连通信,为ADAS以及自动驾驶打开了上升通道。神经网络也开始用于自动驾驶汽车系统当中,如帮助避免碰撞事故的发生等。当然神经网络越大,需要的计算量就越大,这就需要更高水平的性能支持。

Andrew Grant指出,随着5G时代的到来,边缘计算逐渐将智能化处理从云端转向边缘。汽车的智能化趋势越来越明显,数字驾舱、人机界面、先进驾驶辅助系统被越来越多地应用于汽车当中,传感器也与多入多出(MIMO)等通信方式相融合,增加了复杂性。这些都要求汽车拥有更强的处理能力和控制能力。

根据Imagination的估算,如果执行ADAS的车道偏离检测需要10 GFLOPS的算力,那么执行行人预测可能需要500GFLOPS的算力。在自动驾驶方面,如果处于Levels2+级别的驾驶员监测、语音/手势控制需要10 TOPS算力,那么Level5的功能势必需要500TOPS以上的算力才能支持。更高的性能、更低的延时和更好的安全性是未来汽车发展的主要趋势。

160551710728014529.jpg

针对人工智能在汽车领域的应用发展,Imagination公司时隔两年之后,于近日推出其新一代神经网络加速器产品IMG Series4系列。根据Andrew Grant的介绍,Series4 NNA在前代产品的基础上进行了架构创新,实现了高度灵活的多核化扩展,可支持2核,4核,6核,或者8核的多核集群方案。每个单核可以独立处理各自的任务;或者所有单核一起并行处理同一个任务;或者这些单核以指定方式分组,每组并行处理一个任务。

在低功耗的情况下实现高性能是当前边缘AI的需求。Andrew Grant认为,在这一点上Imagination公司具有先天的优势。Series4的每个单核能够以不到一瓦的功耗提供12.5 TOPS的性能。这样,在一个8核集群上就可以提供超过100TOPS的算力。那么,如果配有5个8核集群的解决方案就可以提供500 TOPS的算力。

低延迟、高可靠是自动驾驶技术实现的基本条件之一。为了构建更加安全的交通环境,自动驾驶必须进入“毫秒必争”的时代,这对数据处理能力也提出更高的要求。Series4依托多核的可扩展能力,将多个单核组成2核、4核、6核或8核的多核集群,所有单核可以相互协作,并行处理一个任务,降低处理延迟,缩短响应时间。对于一个8核集群,理想情况下任务并行执行的延迟会减少为单核独立执行时的1/8。

应用范围可扩展,从汽车电子到数据中心

处理神经网络工作负载的一个共同挑战是大量的DDR访问,这就意味着更高的带宽消耗、更多的功耗。对于边缘处理器来说并不适合。为了解决这个问题,Imagination公司利用了其在移动领域的丰富经验,在Series4中采用了Tensor Tiling技术,大大降低对带宽的要求。

Imagination Technologies产品管理部门总监Gilberto Rodriguez介绍,Tensor Tiling技术(Imagination’s Tensor Tiling,ITT)是一项正在申请专利的技术,也是Series4中新增的功能。它可以通过对计算任务进行tiling,充分利用片上存储,提升数据处理效率,并节省访问外部存储的带宽。ITT通过任务分割,减少每个子任务中间数据的尺寸,从而能够将中间数据保存在片上存储器中,这样可以最大限度地减少将数据传输至外部存储器,从而将带宽降低多达90%。ITT是一种可扩展的算法,在拥有大量输入数据的网络上具有显著优势。

160551713435651024.jpg

Series4还包含IP级别的安全功能(functional safety)设计,且设计流程符合ISO 26262标准,可以帮助客户获得ISO 26262认证。ISO 26262是旨在解决汽车电子产品风险的行业安全标准。Series4可以在不影响性能的情况下,安全地进行神经网络推理。硬件安全机制可以保护编译后的网络、网络的执行和数据处理管道。

边缘计算的重要性在5G时代将不断凸显出来。Gartner的分析报告显示,目前,大约10%的企业生成数据是在传统的集中式数据中心或云之外创建和处理的。到2022年,Gartner预测这一数字将增长到50%。在未来,势必需要更多的依靠边缘设备自身的算力解决业务场景里AI推理的计算需求。

尽管神经网络推理可以在CPU上运行,同时人们也经常会采用GPU。然而为了在严格的功耗要求下满足下一代性能要求,专用的神经网络加速硬件也越来越广泛地被采用。Imagination公司推出的Series4,在多核架构的情况下,实现了高性能、低功耗以及更好的安全性能。尽管目标市场在自动驾驶等汽车市场,但Imagination也表示,Series4亦将用于数据中心、PC等领域。随着人们对数据处理需求的增长,神经网络专用芯片的应用将逐步扩展。



责任编辑:陈炳欣
相关链接

第八届中国电子信息博览会开幕论坛

本次论坛主题是“创新共享 开放合作”,将邀请政府行业主管部门、国内外著名专家学者、企业家发表主题演讲、专题交流,深入探讨在两个“百年不遇”新形势下深化创新驱动战略,实现电子信息产业高质量发展......

首届世界显示产业大会

作为工业和信息化部、中国国际贸易促进委员会、安徽省人民政府联合主办的第十三届中国(合肥)国际家用电器暨消费电子博览会的重要板块,首届世界显示产业大会于11月22日在合肥开幕。

2019世界VR产业大会

10月19日,由工业和信息化部和江西省人民政府联合主办的2019世界VR产业大会在南昌隆重开幕。开幕式上,中共中央政治局委员、国务院副总理刘鹤发表重要讲话。

第二届全球IC企业家大会暨第十七届中国国际半导体博览会

9月3日,由工业和信息化部、上海市人民政府指导,中国半导体行业协会、中国电子信息产业发展研究院主办的第二届全球IC企业家大会暨第十七届中国国际半导体博览会在上海开幕

2019世界VR产业大会新闻发布会

6月20日,工业和信息化部、江西省人民政府在北京联合召开新闻发布会,介绍2019世界VR产业大会有关情况及筹备工作进展。

第十一届中国中部投资贸易博览会电子信息产业发展论坛

5月19日,第十一届中国中部投资贸易博览会电子信息产业发展论坛在江西南昌召开。南昌市人民政府副市长杨文斌、江西省工信厅副厅长王亦斌出席并致辞。

2019世界超高清视频产业发展大会

5月9日,2019 世界超高清视频(4K/8K)产业发展大会在广州召开。大会由工业和信息化部、国家广播电视总局、中央广播电视总台、广东省人民政府共同主办。工业和信息化部部长苗圩出席大会并致辞。

第七届中国电子信息博览会

本次峰会主题是“创新驱动发展 智慧赋能未来”,将邀请政府行业主管部门、国内外著名专家学者和企业家发表主题演讲,深入探讨产业创新发展新模式、新动能、新路径,推动电子信息产业高质量发展。...

首届全球IC企业家大会

12月11日,由工业和信息化部、上海市人民政府指导,中国半导体行业协会、中国电子信息产业发展研究院主办,北京赛迪会展有限公司、中国电子报社、上海市集成电路行业协会承办的“首届全球IC企业家大会暨第十六届中国国际...

2018世界VR产业大会

10月19日,2018世界VR产业大会在南昌盛大开幕。开幕式上,全国政协副主席卢展工宣读国家主席习近平贺信,工业和信息化部部长苗圩,江西省委书记刘奇,江西省委常委、南昌市委书记殷美根分别致辞。

第二届中国虚拟现实创新创业大赛启动...

8月20日,在中国创新创业大赛组委会办公室指导下,由虚拟现实产业联盟、国科创新创业投资有限公司共同举办的第二届中国虚拟现实创新创业大赛启动新闻发布会在北京举行。

2018年上半年家电网购分析报告发布会

8月2日,工业和信息化部赛迪研究院、中国电子报社在北京发布了《2018年上半年家电网购分析报告》(以下简称《家电网购报告》)。报告显示,2018年上半年,我国B2C家电网购市场(含移动终端)规模达2641亿元...

2018制造业“双创”高峰论坛

6月22日,2018制造业“双创”高峰论坛在北京举办。本次论坛由中国电子信息产业发展研究院、中国制造企业双创发展联盟和中国软件行业协会工业互联网分会主办,中国电子报社、北京云道智造科技有限公司和中国船舶工...

2018世界VR产业大会新闻发布会

5月21日,记者从在北京人民大会堂召开的2018世界VR产业大会新闻发布会上获悉,由工业和信息化部、江西省人民政府共同主办,中国电子信息产业发展研究院、江西省工业和信息化委员会、南昌市人民政府、虚拟现实产业...

2020世界超高清视频(4K/8K)产业发展大会 - 微信直播

超清视界,5G赋能。中国电子报、电子信息产业网将全程直播报道!...

2020年第三季度中国家电市场报告

10月19日,中国电子信息产业发展研究院发布了《2020第三季度中国家电市场报告》(以下简称《报告》)。《报告》显示,今年7-9月,我国家电市场零售额规模为2102亿元,比去年同期微增1.6%。...

2020上半年中国家电市场报告

7月27日,中国电子信息产业发展研究院发布了《2020上半年中国家电市场报告》(以下简称《报告》)。《报告》显示,今年上半年,我国家电市场零售额规模为3690亿元,比去年同期下降14.13%,作为市场...

走向我们的小康生活

2020年是决胜全面小康、决战脱贫攻坚之年,中华民族千百年来为之奋斗的梦想终将成真。小康承载初心,小康属于人民。...

中国企业数字化采购发展报告2019

随着大数据、云计算、物联网、区块链及人工智能等新技术飞速发展,数字经济时代加快到来,新冠肺炎疫情更是加速了企业数字化转型步伐,需求侧数字化加速向供给侧拓展,电子商务的驱动机制由渠道驱动向数据驱动转变,...

视频新闻丨2020第三届半导体才智大会暨“中国芯”集成电路产

9月25-26日,2020第三届半导体才智大会暨“中国芯”集成电路产教融合实训基地(南京)成立仪式成功举办。本次大会由中国电子信息产业发展研究院、南京市江北新区...

《小电开箱》第二期,和小编一起喊话智能加湿器吧

《小电开箱》是中国电子报短视频团队最新推出的系列评测类栏目,以记者亲身体验,和广大观众一起感受新款消费电子产品的魅力(以及问题)...

1分钟看懂轨道交通“新基建”

经过近些年的发展,中国已迈入城市轨道交通大国的行列,北京、上海等大城市的城市轨道交通建设在世界上处于遥遥领先的地位。根据国际公共交通联合会(UITP)统计简报,...

友情链接
关于我们 | 联系我们 | 广告服务
电子信息产业网LOGO