[发明专利]卷积神经网络模型的计算方法及装置有效
申请号: | 201911022124.9 | 申请日: | 2019-10-25 |
公开(公告)号: | CN110796245B | 公开(公告)日: | 2022-03-22 |
发明(设计)人: | 郭振华;范宝余;王丽;高开 | 申请(专利权)人: | 浪潮电子信息产业股份有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 李慧引 |
地址: | 250101 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 神经网络 模型 计算方法 装置 | ||
1.一种卷积神经网络模型的计算方法,其特征在于,包括:
获取卷积神经网络模型的训练任务;
利用深度学习框架对卷积神经网络模型的训练任务进行处理,生成数据流图,所述数据流图作为所述卷积神经网络模型的训练任务的计算模型;
将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成首位乘加运算任务、中间乘加运算任务和末位乘加运算任务;其中,所述首位乘加运算任务在进行前向传播计算时,包括一个乘法计算,进行后向传播计算时包括一个乘法计算和一个加法计算;所述中间乘加运算任务,包括一个乘法计算和一个加法计算;所述末位乘加计算任务,在进行前向传播计算时,包括一个乘法计算和一个加法计算,进行后向传播计算时包括一个乘法计算;
根据预设的计算模型与计算设备的对应关系,确认每一个乘加运算任务所对应的计算设备;
判断所述乘加运算任务所对应的计算设备的当前负载率是否大于所述乘加运算任务所对应的计算设备所对应的负载率阈值;
若判断出所述乘加运算任务所对应的计算设备的当前负载率大于所述乘加运算任务所对应的计算设备所对应的负载率阈值,则调用当前可用的计算设备进行计算所述乘加运算任务;
若判断出所述乘加运算任务所对应的计算设备的当前负载率不大于所述乘加运算任务所对应的计算设备所对应的负载率阈值,则使用所述乘加运算任务所对应的计算设备对所述乘加运算任务进行计算。
2.根据权利要求1所述的方法,其特征在于,所述将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成多个乘加运算任务之后,还包括:
在每一个乘加运算任务中添加标识;其中,所述标识用于标记每一个乘加运算任务在所述卷积神经网络模型的训练任务的计算模型中的位置。
3.一种卷积神经网络模型的计算装置,其特征在于,包括:
获取单元,用于获取卷积神经网络模型的训练任务的计算模型;所述获取单元包括获取子单元和生成单元;所述获取子单元,用于获取卷积神经网络模型的训练任务;所述生成单元,用于利用深度学习框架对卷积神经网络模型的训练任务进行处理,生成数据流图,所述数据流图作为所述卷积神经网络模型的训练任务的计算模型;
拆分单元,用于将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成多个乘加运算任务;所述拆分单元包括拆分子单元,用于将所述卷积神经网络模型的训练任务的计算模型中的乘累加运算拆分成首位乘加运算任务、中间乘加运算任务和末位乘加运算任务;其中,所述首位乘加运算任务在进行前向传播计算时,包括一个乘法计算,进行后向传播计算时包括一个乘法计算和一个加法计算;所述中间乘加运算任务,包括一个乘法计算和一个加法计算;所述末位乘加计算任务,在进行前向传播计算时,包括一个乘法计算和一个加法计算,进行后向传播计算时包括一个乘法计算;
确认单元,用于根据预设的计算模型与计算设备的对应关系,确认每一个乘加运算任务所对应的计算设备;
判断单元,用于判断所述乘加运算任务所对应的计算设备的当前负载率是否大于所述乘加运算任务所对应的计算设备所对应的负载率阈值;
调用单元,用于若所述判断单元判断出,所述乘加运算任务所对应的计算设备的当前负载率大于所述乘加运算任务所对应的计算设备所对应的负载率阈值,则调用当前可用的计算设备进行计算所述乘加运算任务;
计算单元,用于若所述判断单元判断出,所述乘加运算任务所对应的计算设备的当前负载率不大于所述乘加运算任务所对应的计算设备所对应的负载率阈值,则使用所述乘加运算任务所对应的计算设备对所述乘加运算任务进行计算。
4.根据权利要求3所述的装置,其特征在于,还包括:
添加单元,用于在每一个乘加运算任务中添加标识;其中,所述标识用于标记每一个乘加运算任务在所述卷积神经网络模型的训练任务的计算模型中的位置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮电子信息产业股份有限公司,未经浪潮电子信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911022124.9/1.html,转载请声明来源钻瓜专利网。