[发明专利]一种数据处理方法、装置及设备在审
申请号: | 201910314361.6 | 申请日: | 2019-04-18 |
公开(公告)号: | CN111831425A | 公开(公告)日: | 2020-10-27 |
发明(设计)人: | 周祥;王烨;李鸣翔 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 设备 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
获取与数据处理请求对应的待处理算子;
获取所述待处理算子在多个资源类型下分别对应的代价值;
根据所述代价值从所述多个资源类型中选取目标资源类型;
通过所述目标资源类型对应的计算资源执行所述待处理算子。
2.根据权利要求1所述的方法,其特征在于,
所述获取所述待处理算子在多个资源类型下分别对应的代价值,包括:
通过所述待处理算子查询算子资源注册表,得到所述待处理算子在多个资源类型下分别对应的代价值,所述算子资源注册表为预先生成的;
其中,所述算子资源注册表包括算子、资源类型与代价值的对应关系。
3.根据权利要求2所述的方法,其特征在于,所述获取所述待处理算子在多个资源类型下分别对应的代价值之前,所述方法还包括:
通过指定资源类型对应的计算资源执行指定算子,并获取执行过程中的所述计算资源的代价值;其中,所述指定资源类型为所述多个资源类型中的任一资源类型,所述指定算子为多个算子中的任一算子;
生成所述算子资源注册表,所述算子资源注册表包括所述指定算子、所述指定资源类型和所述计算资源的代价值之间的对应关系。
4.根据权利要求1所述的方法,其特征在于,
所述根据所述代价值从所述多个资源类型中选取目标资源类型,包括:
从所述待处理算子在多个资源类型下分别对应的代价值中选择最小代价值,将最小代价值对应的资源类型确定为所述待处理算子的目标资源类型。
5.根据权利要求1所述的方法,其特征在于,
所述获取与数据处理请求对应的待处理算子,包括:获取与所述数据处理请求对应的原始执行计划,所述原始执行计划包括所述待处理算子;
通过所述目标资源类型对应的计算资源执行所述待处理算子,包括:获取与所述原始执行计划对应的目标执行计划,所述目标执行计划包括所述待处理算子和所述目标资源类型,并将所述目标执行计划发送给所述目标资源类型对应的计算资源,以使所述计算资源执行所述目标执行计划。
6.根据权利要求5所述的方法,其特征在于,
所述获取与所述原始执行计划对应的目标执行计划,包括:
若存在与所述数据处理请求对应的多个原始执行计划,针对所述多个原始执行计划中的原始执行计划,根据该原始执行计划中的所述待处理算子在所述目标资源类型下对应的代价值,获取该原始执行计划对应的总代价值;
从所述多个原始执行计划中选取总代价值最小的原始执行计划;
获取与所述总代价值最小的原始执行计划对应的目标执行计划。
7.根据权利要求1-6任一所述的方法,其特征在于,
所述资源类型包括以下一种或者多种:中央处理器CPU资源类型、现场可编程逻辑门阵列FPGA资源类型、图形处理器GPU资源类型。
8.一种数据处理方法,其特征在于,应用于数据湖分析平台,所述数据湖分析平台用于为用户提供无服务器化的数据处理服务,所述方法包括:
获取与数据处理请求对应的待处理算子;
获取所述待处理算子在多个资源类型下分别对应的代价值;
根据所述代价值从所述多个资源类型中选取目标资源类型;
通过所述目标资源类型对应的计算资源执行所述待处理算子;
其中,所述目标资源类型对应的计算资源,用于基于所述数据湖分析平台提供的云数据库,执行所述待处理算子。
9.根据权利要求8所述的方法,其特征在于,所述计算资源具体为:
用于提供中央处理器CPU资源的CPU云服务器;或者,
用于提供现场可编程逻辑门阵列FPGA资源的FPGA云服务器;或者,
用于提供图形处理器GPU资源的GPU云服务器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910314361.6/1.html,转载请声明来源钻瓜专利网。