[发明专利]人工神经网络处理系统及其数据处理方法在审
申请号: | 201911411798.8 | 申请日: | 2019-12-31 |
公开(公告)号: | CN111160545A | 公开(公告)日: | 2020-05-15 |
发明(设计)人: | 陕天龙 | 申请(专利权)人: | 北京三快在线科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京市隆安律师事务所 11323 | 代理人: | 权鲜枝;丁辰 |
地址: | 100190 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 人工 神经网络 处理 系统 及其 数据处理 方法 | ||
1.一种人工神经网络处理系统,其特征在于,包括:控制模块、运算模块和存储模块;
所述控制模块包括缓存控制单元,所述缓存控制单元被配置为执行人工神经网络运算缓存的控制;
所述运算模块包括一个或多个主运算单元,所述主运算单元被配置对人工神经网络结构中的各网络层执行运算;
所述存储模块包括融合存储单元,所述融合存储单元被配置为执行人工神经网络各网络层运算数据的加载和运算结果的缓存;其中,所述融合存储单元包括片上存储器和片外存储器,所述片上存储器的缓存地址和所述片外存储器的缓存地址被统一编码形成统一地址值。
2.如权利要求1所述的人工神经网络处理系统,其特征在于,所述片上存储器、所述缓存控制单元和所述主运算单元被配置在同一芯片上。
3.如权利要求1所述的人工神经网络处理系统,其特征在于,所述片上存储器的存储区域包括片上缓存一区和片上缓存二区,所述片外存储器的存储区域包括片外缓存一区、片外缓存二区,且所述片上缓存一区、片外缓存一区、片上缓存二区、片外缓存二区依次被统一编码形成统一地址值。
4.如权利要求1所述的系统,其特征在于,所述片上存储器包括两列对称设置的静态RAM缓存矩阵,分别由若干个静态RAM和控制器组成。
5.如权利要求2所述的系统,其特征在于,所述控制模块还包括主控制器,所述主控制器被配置为执行如下的至少一种操作:人工神经网络的运算指令收发,人工神经网络的运算流程调度,人工神经网络功能决策;和/或,
所述运算模块还包括辅助运算单元,所述辅助运算单元被配置为对人工神经网络运算数据进行预处理和/或对运算结果进行采集;和/或,
所述存储模块还包括辅助存储单元,所述辅助存储单元被配置为人工神经网络各网络层的运算加载权重参数;
其中,所述主控制器、所述辅助运算单元通过CPU实现;所述辅助存储单元通过CPU内存实现。
6.如权利要求5所述的系统,其特征在于,所述系统还包括配置在所述芯片上的控制通路模块,所述控制通路模块为所述主控制器与所述运算单元和所述缓存控制单元的通信提供缓存,包括缓存指令RAM、权重指令RAM以及权重数据RAM。
7.一种数据处理方法,该方法应用于如权利要求1-6任一项所述的神经网络处理系统,其特征在于,所述方法包括:
将所述统一地址值进行区域划分,所述区域至少包括缓存一区和缓存二区;
将所述神经网络各网络层的运算结果数据从所述主运算单元返回后交替写入所述缓存一区或缓存二区,并从所述缓存一区或缓存二区读取该网络层的运算结果数据并写入所述主运算单元进行该网络层的下一网络层的运算。
8.如权利要求7所述的方法,其特征在于,所述缓存一区由连续统一地址值的片上缓存一区和片外缓存一区组成,所述缓存二区由连续统一地址值的片上缓存二区和片外缓存二区组成,且优先选择从所述片上缓存区写入或读取数据。
9.如权利要求8所述的方法,其特征在于,所述缓存一区或缓存二区读取或写入包括:
判断目标网络层是否为原始数据层、结果数据层、溢出层或备份层,根据各网络层的运算特点以及数据统一地址值与片上缓存区最大地址值的关系,确定读取或写入的目标缓存区。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911411798.8/1.html,转载请声明来源钻瓜专利网。