[发明专利]一种适用于专用神经网络加速器的数据双层缓存方法有效
申请号: | 202010462702.7 | 申请日: | 2020-05-27 |
公开(公告)号: | CN111783967B | 公开(公告)日: | 2023-08-01 |
发明(设计)人: | 王维;伍骏 | 申请(专利权)人: | 上海赛昉科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/0464;G06F3/06 |
代理公司: | 上海创开专利代理事务所(普通合伙) 31374 | 代理人: | 吴海燕 |
地址: | 200120 上海市浦东新区中国(上海)自由贸易试*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 适用于 专用 神经网络 加速器 数据 双层 缓存 方法 | ||
1.一种适用于专用神经网络加速器的数据双层缓存方法,其特征在于,所述专用神经网络加速器采用至少两块小容量片上SRAM实现子网络层间数据的第一级“乒乓缓冲”,神经网络加速器的主控制器从片外DRAM存储器中搬移子网络层1的输入数据到片内SRAM存储器1中,一旦片内SRAM存储器1完成数据搬移,则加速器开始启动计算,同时,主控制器开始同步从外部DRAM搬移子网络层2的输入数据到片内SRAM存储器2中,所述数据双层缓存方法包括如下步骤:
S01、主控制器从片外DRAM搬移当前网络层的输入数据到片内SRAM存储器1,搬移完毕后开启加速器计算,并同步搬移下一层网络输入数据到片内SRAM存储器2中;
S02、神经网络加速器内部的数据缓冲器从片内SRAM存储器1中选择数据缓存到缓冲器1中,开始计算矩阵运算,并同步缓存下一次运算所需数据到缓冲器2中,一旦缓冲器1中数据运算结束后,计算矩阵等待或开始缓冲器2中数据的运算;
S03、重复步骤S02,直到片内SRAM存储器1中的数据全部计算完成;
S04、检查用于缓存下一级网络层输入数据的片内SRAM存储器2是否已完成数据搬移,一旦数据搬移完成,则马上开始网络层计算,否则,等待数据搬移完成。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海赛昉科技有限公司,未经上海赛昉科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010462702.7/1.html,转载请声明来源钻瓜专利网。