怎样同一架构的同时高效处理种种希罕度的人工神经收集矩阵?清华大学团队提出的Sticker给你谜底!

物联网与人工智能联合的开展趋势,对神经收集加速芯片的能效有了更高的请求。因为剪枝和RELU等操作,神经收集权重和激活矩阵中保管广泛的希罕性分布,且差别收集和同一收集差别层的希罕度各不相同,其希罕度分布范围高达4-90%。因为差别希罕度矩阵运算关于盘算和存储电道请求各不相同,提出一种同一架构同时高效处理种种希罕度的人工神经收集矩阵,是人工智能芯片计划范畴的一大艰难。

由清华大学电子工程系刘勇攀传授团队提出的Sticker系列人工智能处理器系统性探究了芯片架构目标应用收集希罕性和低位宽外示以晋升芯片推理能效的可以性。团缎●照“非规矩化希罕-规矩化希罕-希罕量化协同”的技能道线,自2018年接踵发布了Sticker-I、Sticker-T等芯片,芯片推理和片上教练操作的能效上完成了极大打破。

此中,Sticker-I神经收集加速器芯片针对神经收集中希罕度分布范围广(4%-90%)、差别希罕度矩阵运算对盘算和存储电道请求差别的题目,用同一的芯片架构高效支撑了差别希罕度的神经收集运算。该义务通过动态配备人工智能芯片的运算和存储电道,完成了对差别希罕度神经收集的自顺应处理,大幅晋升了人工智能加速芯片的能量服从,是首款厉密支撑差别希罕程度收集,且同时支撑片上彀络参数微调的神经收集加速芯片。Sticker-I芯片65nm工艺下,取得62.1TOPS/W的峰值中心操作盘算能效,并发外2018年国际超大范围集成电道峰会(Symposia of VLSI Technology and Circuits)。Sticker-I 芯片照片STICKER-I 神经收集加速器硬件架构Sticker-T 的通用架构可以同时高效支撑包罗 CNN,RNN 和 FC 内的主流收集构造,满意了差别运用场景的需求,入选了2019年头美国旧金山举办的ISSCC 2019大会,是中国大陆首篇发外的人工智能芯片ISSCC论文。

进一步,该团队针对具有规矩化希罕特性的神经收集,应用算法-架构-电道的联合优化,提出了基于组轮回变换域的通用神经收集盘算芯片STICKER-T。通过计划高效FFT处理器架构、高数据复用盘算阵列架构和高功用存储电道技能,Sticker-T能效和面积两个方面都有着分明的晋升。该芯片可以同时高效支撑包罗 CNN,RNN 和 FC 内的主流收集构造,峰值能效 140TOPS/W 为之前义务的 2.7 倍,而 7.5mm^2 的面积仅为前者的 60%,满意了差别运用场景的需求。该义务入选了年头美国旧金山举办的ISSCC 2019大会,也是中国大陆首篇发外的人工智能芯片ISSCC论文。

https://ask.qcloudimg.com/http-save/yehe-1754229/8h2gnjn54r.jpeg?imageView2/2/w/1620Sticker-T芯片照片

与此同时,ISSCC 2019 Student Research Preview会场上,该团队的袁哲博士代外团队展现了希罕神经收集加速范畴的最新效果Sticker-II芯片。该芯片首次将自顺应希罕和量化举行有机联合的人工智能芯片。受益于神经收集希罕性与低比特量化技能的联合,该芯片比较于上一代STICKER-I芯片完成了更高的能量服从。

https://image.jiqizhixin.com/uploads/editor/a006b9ce-6fbb-4a96-97db-2e3b363918e8/1551146758262.png袁哲博士ISSCC2019展现现场Sticker系列人工智能芯片基于算法-架构-电道的联合立异,对神经收集中的非规矩化希罕性、规矩化希罕性和低位宽外示供应了高效支撑,其相关效果发外ISSCC/VLSI/JSSC上,受到了学术界和财产界的广泛体恤。7月29日-7月31日于瑞士洛桑举办的ISLPED’19(ACM/IEEE International Symposium on Low Power Electronics and Design, ISLPED 2019)低功耗电子与计划国际研讨会上,Sticker系列人工智能芯片取得了技能委员会的高度承认,并荣获计划竞赛第一名。湃方科技取得ISLPED’19 计划竞赛一等奖Sticker系列人工智能芯片从盘算MAC、运算单位以及阵列化三个维度全方位进步芯片的盘算能效和灵敏性,该芯片的运用墟市极其宽广,掩盖了伶俐工业、伶俐都会、智能制制等范畴。基于其科研效果修立的人工智能公司湃方科技尽力打制了以人工智能芯片和工业智能算法为中心技能,以赋能我国财产智能化升级为愿景,认为客户供应跨品类、全栈式配备智能办理办理方案为任务的企业计谋构造,努力于成为业界领先的配备智能化办理效劳供应商,加速人工智能相关技能各个社会范畴的运用,继续打制中国制制“智能+”。

财产神经收集清华大学
相关数据
权重技能

线性模子中特征的系数,或深度收集中的边。教练线性模子的目标是确定每个特征的抱负权重。假如权重为 0,则相应的特征对模子来说没有任何奉献。

人工智能技能

学术研讨范畴,人工智能一般指可以感知四周状况并接纳举动以完成最优的可以结果的智能体(intelligent agent)

参数技能

数学和统计学裡,参数(英语:parameter)是运用通用变量来修立函数和变量之间联系(岛镶种联系很难用方程来阐述时)的一个数目。

剪枝技能

剪枝顾名思义,便是删去少许不主要的节点,来减小盘算或搜寻的繁杂度。剪枝许众算法中都有很好的运用,如:计划树,神经收集,搜寻算法,数据库的计划等。计划树和神经收集中,剪枝可以有用缓解过拟合题目并减小盘算繁杂度;搜寻算法中,可以减小搜寻范围,进步搜寻服从。

神经收集技能

(人工)神经收集是一种根源于 20 世纪 50 年代的监视式板滞进修模子,那时分研讨者念象了「感知器(perceptron)」的念法。这一范畴的研讨者一般被称为「勾结主义者(Connectionist)」,因为这种模子模拟了人脑的功用。神经收集模子一般是通过反向传达算法运用梯度下降教练的。目前神经收集有两大主要类型,它们都是前馈神经收集:卷积神经收集(CNN)和轮回神经收集(RNN),此中 RNN 又包罗好坏期记忆(LSTM)、门控轮回单位(GRU)等等。深度进修是一种主要运用于神经收集帮帮其取得更好结果的技能。尽管神经收集主要用于监视进修,但也有少许为无监视进修计划的变体,比如主动编码器和生成对立收集(GAN)。

引荐作品
暂无评论
暂无评论~