[发明专利]针对目标模型的数据处理方法、装置、电子设备和介质有效
申请号: | 202111058702.1 | 申请日: | 2021-09-09 |
公开(公告)号: | CN113762510B | 公开(公告)日: | 2022-12-09 |
发明(设计)人: | 彭军才;成瑜娟;严春伟;刘其文 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 吕朝蕙 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 针对 目标 模型 数据处理 方法 装置 电子设备 介质 | ||
1.一种针对目标模型的数据处理方法,应用于电子设备,包括:
利用训练样本训练模型得到目标模型,其中,所述目标模型包括至少一个网络层,所述至少一个网络层中的每个网络层包括多个模型参数,所述多个模型参数的数据类型为第一数据类型;
针对所述至少一个网络层中的目标网络层,将所述目标网络层的多个模型参数划分为多个分组包括:针对所述目标网络层的多个模型参数所包括的多个通道的模型参数,将每个通道的模型参数确定为一个分组,得到与所述多个通道一一对应的多个分组;
基于与所述多个分组一一对应的多个调整比例,分别将所述多个分组的模型参数的数据类型由所述第一数据类型调整为第二数据类型,得到处理后的目标模型,其中,所述第一数据类型的模型参数占用的存储资源多于所述第二数据类型的模型参数占用的存储资源;其中,所述多个调整比例中的每个调整比例是基于目标模型参数确定的,所述目标模型参数是从与所述每个调整比例对应的分组所包含的模型参数中确定的;以及
将所述处理后的目标模型发送给边缘设备,以便于所述边缘设备在接收到待预测数据时将存储于硬盘中的所述第二数据类型的模型参数加载到内存中并调整为所述第一数据类型的模型参数。
2.根据权利要求1所述的方法,其中,所述分别将所述多个分组的模型参数的数据类型由第一数据类型调整为第二数据类型,得到处理后的目标模型包括:
确定所述多个分组中每个分组的调整比例,得到多个调整比例;以及
基于所述多个调整比例,分别将所述多个分组的模型参数的数据类型由第一数据类型调整为第二数据类型,得到处理后的目标模型。
3.根据权利要求2所述的方法,其中,所述确定所述多个分组中每个分组的调整比例包括:
从所述每个分组包含的模型参数中确定目标模型参数;以及
基于所述目标模型参数和与所述每个分组对应的预设数据长度,计算针对所述每个分组的调整比例。
4.根据权利要求3所述的方法,其中,所述目标模型参数为所述每个分组包含的模型参数中绝对值最大的模型参数。
5.根据权利要求2所述的方法,其中,所述基于所述多个调整比例,分别将所述多个分组的模型参数的数据类型由第一数据类型调整为第二数据类型包括:
将所述每个分组的第一数据类型的模型参数除以与所述每个分组对应的调整比例,得到第二数据类型的模型参数。
6.根据权利要求1-5中任意一项所述的方法,其中,所述第一数据类型包括浮点类型,所述第二数据类型包括整数类型。
7.一种针对目标模型的数据处理方法,应用于边缘设备,包括:
响应于获取到来自电子设备的目标模型,将所述目标模型的模型参数存储至所述边缘设备的硬盘中,其中,所述目标模型的模型参数的数据类型为第二数据类型;
响应于接收到待预测数据,将所述目标模型从所述硬盘加载到所述边缘设备的内存中;
从所述目标模型的至少一个网络层中确定目标网络层,其中,所述至少一个网络层中的每个网络层包括多个模型参数;
确定所述目标网络层中的多个模型参数所属的多个分组,其中,所述目标网络层的多个模型参数包括多个通道的模型参数,所述多个通道与所述多个分组一一对应,每个通道的模型参数为一个分组;
基于所述多个分组中每个分组对应的调整比例,分别将所述多个分组中的模型参数的数据类型由所述第二数据类型调整为第一数据类型,得到处理后的目标模型,其中,所述处理后的目标模型的模型参数存储于所述内存中,所述第二数据类型的模型参数占用的存储资源少于所述第一数据类型的模型参数占用的存储资源;多个调整比例中的每个调整比例是基于目标模型参数确定的,所述目标模型参数是从与所述每个调整比例对应的分组所包含的模型参数中确定的;以及
利用所述处理后的目标模型对所述待预测数据进行预测,得到预测结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111058702.1/1.html,转载请声明来源钻瓜专利网。