[发明专利]一种数据处理方法、装置及存储介质在审
申请号: | 202010236673.2 | 申请日: | 2020-03-30 |
公开(公告)号: | CN113469351A | 公开(公告)日: | 2021-10-01 |
发明(设计)人: | 郭晖;张楠赓 | 申请(专利权)人: | 嘉楠明芯(北京)科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06F8/41 |
代理公司: | 北京市中伦律师事务所 11410 | 代理人: | 钟锦舜 |
地址: | 100094 北京市海淀区东北旺西*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 存储 介质 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
获取第一神经网络模型;
根据所述第一神经网络模型,确定第一中间计算图;
对所述第一中间计算图进行处理,得到第二中间计算图;
对所述第二中间计算图进行量化,以得到所述第一神经网络模型对应的第二神经网络模型。
2.根据权利要求1所述的方法,其特征在于,所述方法应用于一种编译器,所述编译器输出的所述第二神经网络模型为目标设备的输入数据,所述第一神经网络模型为所述目标设备不支持的模型类型,所述第二神经网络模型为所述目标设备支持的模型类型。
3.根据权利要求1或2所述的方法,其特征在于,所述获取第一神经网络模型,包括:
获取基于初始模型框架训练好的所述第一神经网络模型,所述初始模型框架为基于输入数据,通过模型设计工具得到的模型框架。
4.根据权利要求1或2所述的方法,其特征在于,所述对所述第一中间计算图进行处理,得到第二中间计算图,包括:
将所述第一中间计算图中的第一算子转换为第二算子,其中,所述第一算子对应数据处理过程的处理复杂度,大于所述第二算子对应数据处理过程的处理复杂度。
5.根据权利要求1或2所述的方法,其特征在于,所述对所述第一中间计算图进行处理,得到第二中间计算图,包括:
从所述第一中间计算图中的多个算子中,确定处理复杂度小于阈值的目标算子,并处理所述目标算子对应的数据处理过程。
6.根据权利要求1或2所述的方法,其特征在于,所述对所述第一中间计算图进行处理,得到第二中间计算图,包括:
对所述第一中间计算图中的卷积运算进行拆分,其中,拆分前卷积运算的维度大于拆分后卷积运算的维度。
7.一种数据处理装置,其特征在于,所述装置包括:
通信单元,用于获取第一神经网络模型;
处理单元,用于根据所述通信单元获取的所述第一神经网络模型,确定第一中间计算图;
所述处理单元,还用于对所述第一中间计算图进行处理,得到第二中间计算图;
所述处理单元,还用于对所述第二中间计算图进行量化,以得到所述第一神经网络模型对应的第二神经网络模型。
8.根据权利要求7所述的装置,其特征在于,所述装置应用于一种编译器,所述编译器输出的所述第二神经网络模型为目标设备的输入数据,所述第一神经网络模型为所述目标设备不支持的模型类型,所述第二神经网络模型为所述目标设备支持的模型类型。
9.根据权利要求7或8所述的装置,其特征在于,所述通信单元,还用于获取基于初始模型框架训练好的所述第一神经网络模型,所述初始模型框架为基于输入数据,通过模型设计工具得到的模型框架。
10.根据权利要求7或8所述的装置,其特征在于,所述处理单元,还用于将所述第一中间计算图中的第一算子转换为第二算子,其中,所述第一算子对应数据处理过程的处理复杂度,大于所述第二算子对应数据处理过程的处理复杂度。
11.根据权利要求7或8所述的装置,其特征在于,所述处理单元,还用于从所述第一中间计算图中的多个算子中,确定处理复杂度小于阈值的目标算子,并处理所述目标算子对应的数据处理过程。
12.根据权利要求7或8所述的装置,其特征在于,所述处理单元,还用于对所述第一中间计算图中的卷积运算进行拆分,其中,拆分前卷积运算的维度大于拆分后卷积运算的维度。
13.一种数据处理装置,其特征在于,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现权利要求1至6中任意一项所述的方法。
14.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1至6中任意一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于嘉楠明芯(北京)科技有限公司,未经嘉楠明芯(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010236673.2/1.html,转载请声明来源钻瓜专利网。