[发明专利]基于Tensor访问的深度学习内存管理方法及系统有效
| 申请号： | 202011619848.4 | 申请日： | 2020-12-31 |
| 公开（公告）号： | CN112306697B | 公开（公告）日： | 2021-04-27 |
| 发明（设计）人： | 何水兵;陈帅犇;陈平;杨斯凌;陈伟剑;孙贤和;陈刚;银燕龙;毛旷 | 申请（专利权）人： | 之江实验室;浙江大学 |
| 主分类号： | G06F9/50 | 分类号： | G06F9/50;G06N3/04;G06N3/08 |
| 代理公司： | 杭州求是专利事务所有限公司 33200 | 代理人： | 邱启旺 |
| 地址： | 311121 浙江省杭州市余*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种基于Tensor访问的深度学习内存管理方法，该方法通过收集神经网络的执行信息和硬件平台的性能信息获得相关决策下的内存空间开销和时间开销，并建立整数线性规划模型，通过在约束条件下优化求解最优的Tensor调度策略，从而解决内存不足问题的同时获得较高的深度学习训练性能。相比于现有技术，相同的硬件性能下，本发明可以实现更大的batchsize的神经网络训练。本发明同时还提出了一种内存管理系统，包括profile模块、决策模块和执行模块；该系统可直接添加在深度学习框架上，使用方便。 | ||
| 搜索关键词： | 基于 tensor 访问 深度 学习 内存 管理 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于之江实验室;浙江大学，未经之江实验室;浙江大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011619848.4/，转载请声明来源钻瓜专利网。
