[发明专利]神经网络推理的内存管理方法及装置有效
| 申请号： | 202011532175.9 | 申请日： | 2020-12-23 |
| 公开（公告）号： | CN112256440B | 公开（公告）日： | 2021-03-09 |
| 发明（设计）人： | 梁军 | 申请（专利权）人： | 上海齐感电子信息科技有限公司 |
| 主分类号： | G06F9/50 | 分类号： | G06F9/50;G06N3/02;G06N5/04 |
| 代理公司： | 上海浦一知识产权代理有限公司 31211 | 代理人： | 焦天雷 |
| 地址： | 201120 上海市*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 神经网络推理的内存管理方法及装置，所述方法包括：将内存空间划分为第一类区域和第二类区域，所述第一类区域只会被用于存储生命周期为1的FM数据，所述第二类区域能够被用于存储任意生命周期的FM数据；对待分配内存空间的神经网络进行分析，根据该神经网络中存在多输入的层的数量与该神经网络的总层数，来确定是否启用第一类区域、以及是否启用第二类区域；从第一类区域和/或第二类区域中为该神经网络中各个层的FM数据分配内存空间。本发明根据神经网络的结构来自适应选择合适的内存管理策略，最优化内存使用。本发明使用贪婪算法逐层搜索最优化的内存分配方案，能够降低神经网络推理的内存占用，尽可能的最小化内存使用。 | ||
| 搜索关键词： | 神经网络 推理 内存 管理 方法 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于上海齐感电子信息科技有限公司，未经上海齐感电子信息科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011532175.9/，转载请声明来源钻瓜专利网。
