[发明专利]Tensor高速缓存及访问结构及其方法有效
申请号: | 202110280834.2 | 申请日: | 2021-03-16 |
公开(公告)号: | CN112925727B | 公开(公告)日: | 2023-03-03 |
发明(设计)人: | 黄权;李兆亮;王辰琛 | 申请(专利权)人: | 杭州慧芯达科技有限公司 |
主分类号: | G06F12/0862 | 分类号: | G06F12/0862;G06F9/30;G06F3/06 |
代理公司: | 浙江永鼎律师事务所 33233 | 代理人: | 陆永强;张晓英 |
地址: | 310011 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种Tensor高速缓存及访问结构及其方法,包括:S1.获取Tensor高速缓存的Tensor结构变量与关联矩阵的映射关系;S2.根据映射关系执行a)或b):a)将主存中关联矩阵的数据加载到Tensor高速缓存中;b)将Tensor高速缓存中的数据写入主存中的关联矩阵处。本方案将主存中关联矩阵的数据映射提取到Tensor高速缓存片中,并且将关联矩阵的数据切割分别放置在不同的缓存片中,便于后续的数据转换及并行运算,同时能够提高有限的片上存储器的利用率;Tensor高速缓存的数据多维分布,并且数据多维并行处理,能够有效提高数据处理效率,同时能够有效避免存储体访问冲突的问题;实现数据的缓存访问及并行处理,避免片上存储空间的浪费以及数据访问延迟不一致的问题。 | ||
搜索关键词: | tensor 高速缓存 访问 结构 及其 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州慧芯达科技有限公司,未经杭州慧芯达科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110280834.2/,转载请声明来源钻瓜专利网。