[发明专利]在系统高速缓存中分配特征图的神经网络加速方法和系统在审
申请号: | 202111579450.7 | 申请日: | 2021-12-22 |
公开(公告)号: | CN114661632A | 公开(公告)日: | 2022-06-24 |
发明(设计)人: | 拉胡尔·夏尔马;古拉夫·查特吉 | 申请(专利权)人: | 三星电子株式会社 |
主分类号: | G06F12/0871 | 分类号: | G06F12/0871;G06F9/50;G06N3/063 |
代理公司: | 北京天昊联合知识产权代理有限公司 11112 | 代理人: | 赵南;肖学蕊 |
地址: | 韩国*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 系统 高速缓存 分配 特征 神经网络 加速 方法 | ||
1.一种用于在动态随机存取存储器中的系统高速缓存中分配特征图的方法,包括:
接收与系统高速缓存处的数据相关联的多个输入特征图;
创建空间上协同定位的特征图的多个集群;
基于一个或多个集群参数计算所述集群中的每一个的优先级;
基于执行顺序和所述集群中的每一个的计算出的优先级来放置所述多个集群,以获得优先化的多个集群;
向所述优先化的多个集群中的每一个指派第一地址;
基于寿命参数的冲突,确定对所述优先化的多个集群中的连续集群中的每一个的地址指派的重叠;以及
基于确定结果和所述集群中的每一个的计算出的优先级,向所述优先化的多个集群中的每一个重新指派第二地址。
2.根据权利要求1所述的方法,还包括:
基于所述输入特征图中的每一个的执行顺序确定所述多个集群中的每一个的寿命;以及
基于所述多个集群中的每一个的所确定的寿命来确定所述优先化的多个集群中的每一个的指派的地址中的每一个中的所述寿命参数的冲突。
3.根据权利要求2所述的方法,其中,所述一个或多个集群参数包括集群的大小、集群的访问频率、集群的寿命中的至少一个。
4.根据权利要求1所述的方法,还包括:
解析所述多个集群;
对所述多个集群进行排序以放置所述多个集群,
其中,将所述优先化的多个集群中的每一个的所述第一地址指派给所述动态随机存取存储器中的接近零偏移的低阶地址;并且
向除了所述优先化的多个集群之外的所述多个集群指派所述动态随机存取存储器中的高阶地址。
5.根据权利要求2所述的方法,其中,在确定所述寿命参数的冲突之后,所述方法包括:
确定所述优先化的多个集群的优先级;
基于所述优先化的多个集群中的优先级的确定结果,向所述优先化的多个集群中的每一个重新指派第二地址,所述重新指派包括以下步骤中的至少一个:
向具有最高优先级的多个集群指派所述动态随机存取存储器中的接近零偏移的低阶地址;
向具有低优先级的多个集群指派所述动态随机存取存储器中的高阶地址;以及
向具有中优先级的多个集群指派所述动态随机存取存储器中的中阶地址。
6.一种神经网络系统,所述神经网络系统用于在动态随机存取存储器的系统高速缓存中分配特征图,并且所述系统高速缓存与所述动态随机存取存储器通信地耦合,所述神经网络系统包括至少一个处理器,所述至少一个处理器被配置为:
接收与所述系统高速缓存处的数据相关联的多个输入特征图;
创建空间上协同定位的特征图的多个集群;
基于一个或多个集群参数计算所述集群中的每一个的优先级;
基于执行顺序和所述集群中的每一个的计算出的优先级放置所述多个集群以获得优先化的多个集群;
向所述优先化的多个集群中的每一个指派第一地址;
基于寿命参数的冲突,确定对所述优先化的多个集群中的连续集群中的每一个的地址指派的重叠;以及
基于确定结果和所述集群中的每一个的计算出的优先级,向所述优先化的多个集群中的每一个重新指派第二地址。
7.根据权利要求6所述的神经网络系统,其中,所述至少一个处理器还被配置为:
基于所述输入特征图中的每一个的执行顺序确定所述多个集群中的每一个的寿命;以及
基于所述多个集群中的每一个的所确定的寿命来确定所述优先化的多个集群中的每一个的指派的地址中的每一个中的所述寿命参数的冲突。
8.根据权利要求7所述的神经网络系统,其中,所述一个或多个集群参数包括集群的大小、集群的访问频率、集群的寿命中的至少一个。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于三星电子株式会社,未经三星电子株式会社许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111579450.7/1.html,转载请声明来源钻瓜专利网。