[发明专利]一种基于深度学习网络的内存管理方法在审
申请号: | 202010285754.1 | 申请日: | 2020-04-13 |
公开(公告)号: | CN113537444A | 公开(公告)日: | 2021-10-22 |
发明(设计)人: | 罗涛 | 申请(专利权)人: | 杭州英歌智达科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06F9/50 |
代理公司: | 浙江杭知桥律师事务所 33256 | 代理人: | 方东;罗贤水 |
地址: | 310012 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 深度 学习 网络 内存 管理 方法 | ||
1.一种基于深度学习网络的内存管理方法,其特征在于,包括:
载入网络模型参数;
载入网络模型;
接收用户输入网络运行的数据;
比较网络输入数据尺寸和默认网络输入尺寸或上一次网络输入数据尺寸;
如果网络输入数据尺寸较大,则重新计算每层临时内存和层间传递内存,并重新分配;
网络根据用户设置的运行设备和参数进行运行。
2.根据权利要求1所述的内存管理方法,其特征在于,还包括:如果网络原有输入尺寸较大,则内存大小保持不变。
3.根据权利要求1所述的内存管理方法,其特征在于,还包括:根据用户设置模型网络的处理单元,设置方式包括如下任何之一:
根据用户设置某一类型层的处理单元;
根据用户设置某一层的处理单元;
根据用户设置全部层的处理单元。
4.根据权利要求3所述的内存管理方法,其特征在于,载入网络模型包括:
载入网络层数和每一层的类型、参数;
根据每层的类型和根据用户设置的每层的处理单元,初始化每层的参数;
根据每层输入的参数计算模型内存、临时内存和层间传递内存;
计算汇总,根据用户选择自行分配内存。
5.根据权利要求1-4任一项所述的内存管理方法,其特征在于,网络根据用户设置的运行设备和参数进行运行包括:处理单元为GPU,根据用户设置GPU的使用率为可选配置,默认配置为100%。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州英歌智达科技有限公司,未经杭州英歌智达科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010285754.1/1.html,转载请声明来源钻瓜专利网。