[发明专利]模型使用方法、数据处理方法及装置在审
申请号: | 202010611614.9 | 申请日: | 2020-06-29 |
公开(公告)号: | CN111752716A | 公开(公告)日: | 2020-10-09 |
发明(设计)人: | 叶剑武 | 申请(专利权)人: | 北京小米松果电子有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06N20/00 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 辛姗姗 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 使用方法 数据处理 方法 装置 | ||
1.一种模型使用方法,其特征在于,应用于终端,所述终端内置有深度学习模型,所述方法包括:
向服务器发送参数获取请求,所述参数获取请求用于请求获取针对所述深度学习模型中的算子设置的资源调度参数,所述资源调度参数作为所述终端给所述算子调度硬件资源的依据;
接收所述服务器发送的目标资源调度参数,所述目标资源调度参数与所述终端的硬件信息匹配;
在使用所述深度学习模型的过程中,依据所述目标资源调度参数给所述算子调度硬件资源。
2.根据权利要求1所述的方法,其特征在于,所述向服务器发送参数获取请求,包括:
响应于所述深度学习模型初次使用,确定所述终端当前是否连接网络;
若所述终端当前连接所述网络,则向所述服务器发送所述参数获取请求。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
若所述终端当前未连接所述网络,则依据默认的资源调度参数给所述算子调度硬件资源;
响应于所述终端连接到所述网络,向所述服务器发送所述参数获取请求。
4.根据权利要求1所述的方法,其特征在于,所述终端包括图形处理器;
所述深度学习模型包括用于运行在所述图形处理器上的模型;
所述硬件资源包括所述图形处理器的硬件资源。
5.根据权利要求4所述的方法,其特征在于,所述资源调度参数包括指示处理所述算子使用的线程数量的参数。
6.根据权利要求5所述的方法,其特征在于,所述参数包括开放运算语言OpenCL中使用的本地工作规模localwork size参数。
7.根据权利要求1所述的方法,其特征在于,所述向服务器发送参数获取请求,包括:
获取所述终端的硬件信息;
向所述服务器发送携带所述硬件信息的参数获取请求。
8.根据权利要求1所述的方法,其特征在于,所述硬件信息包括所述终端的型号。
9.一种数据处理方法,其特征在于,应用于服务器,所述方法包括:
接收终端发送的参数获取请求,所述终端内置有深度学习模型,所述参数获取请求用于请求获取针对所述深度学习模型中的算子设置的资源调度参数,所述资源调度参数作为所述终端给所述算子调度硬件资源的依据;
根据所述参数获取请求,确定与所述终端的硬件信息匹配的目标资源调度参数;
将所述目标资源调度参数发送给所述终端,以使所述终端在使用所述深度学习模型的过程中,依据所述目标资源调度参数给所述算子调度硬件资源。
10.根据权利要求9所述的方法,其特征在于,所述根据所述参数获取请求,确定与所述终端的硬件信息匹配的目标资源调度参数,包括:
确定所述服务器是否设有与所述硬件信息匹配的资源调度参数;
若否,则控制不同的终端依据不同的资源调度参数给所述算子调度硬件资源,获得使用各资源调度参数时所述算子的执行时间;
将执行时间最短时使用的资源调度参数确定为所述目标资源调度参数。
11.根据权利要求9所述的方法,其特征在于,所述根据所述参数获取请求,确定与所述终端的硬件信息匹配的目标资源调度参数,包括:
在所述参数获取请求携带所述硬件信息的情况下,获取所述参数获取请求携带的所述硬件信息;
确定与所述硬件信息匹配的所述目标资源调度参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京小米松果电子有限公司,未经北京小米松果电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010611614.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:航行设备的定点控制方法、装置及电子设备
- 下一篇:一种口罩包装高度调节装置