[发明专利]数据处理方法、装置、存储介质及服务器在审
申请号: | 201910282016.9 | 申请日: | 2019-04-09 |
公开(公告)号: | CN111796923A | 公开(公告)日: | 2020-10-20 |
发明(设计)人: | 陈仲铭;何明 | 申请(专利权)人: | OPPO广东移动通信有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;H04L29/08 |
代理公司: | 深圳翼盛智成知识产权事务所(普通合伙) 44300 | 代理人: | 黄威 |
地址: | 523860 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 存储 介质 服务器 | ||
1.一种数据处理方法,应用于服务器,其特征在于,所述服务器包括数据分发单元以及与所述数据分发单元通信连接的流数据处理节点和非流数据处理节点,所述数据处理方法包括:
当所述数据分发单元接收到传入的数据时,获取所述数据的属性信息,所述属性信息包括流数据以及非流数据;
若所述数据为流数据,则将所述数据分发至流数据处理节点;
若所述数据为非流数据,则将所述数据分发至非流数据处理节点;
所述流数据处理节点将接收到的流数据按照事件切分为多个事件数据块,并将所述多个事件数据块分发至流数据机器学习平台进行处理;
所述非流数据处理节点将接收到的非流数据按照时间间隔切分为多个批处理数据块,并将所述多个批处理数据块分发至非流数据机器学习平台进行处理。
2.根据权利要求1所述的数据处理方法,其特征在于,所述流数据处理节点将接收到的流数据按照事件切分为多个事件数据块,并将所述多个事件数据块分发至流数据机器学习平台进行处理,包括:
当流数据事件监听器监听到流数据传入时,将所述流数据传送给流数据处理容器;
所述流数据处理容器将所述流数据按照事件切分为多个事件数据块,并将所述多个事件数据块映射给流数据处理单元;
所述流数据处理单元将所述多个事件数据块传送给流数据调度单元;
所述流数据调度单元将所述多个事件数据块分发至流数据机器学习平台进行处理。
3.根据权利要求1所述的数据处理方法,其特征在于,所述非流数据处理节点将接收到的非流数据按照时间间隔切分为多个批处理数据块,并将所述多个批处理数据块分发至非流数据机器学习平台进行处理,包括:
当非流数据事件监听器监听到非流数据传入时,将所述非流数据传送给非流数据处理容器;
所述非流数据处理容器将所述非流数据按照时间间隔切分为多个批处理数据块,并将所述多个批处理数据块映射给非流数据处理单元;
所述非流数据处理单元将所述多个批处理数据块传送给非流数据调度单元;
所述非流数据调度单元将所述多个批处理数据块分发至非流数据机器学习平台进行处理。
4.根据权利要求1至3任一项所述的数据处理方法,其特征在于,所述服务器还包括数据调度单元,所述数据调度单元与所述数据分发单元通信连接,所述当所述数据分发单元接收到传入的数据时,获取所述数据的属性信息之前,还包括:
当所述数据调度单元监听到数据传入时,识别所述数据的属性信息;
将所述数据以及所述数据的属性信息传送给所述数据分发单元。
5.根据权利要求4所述的数据处理方法,其特征在于,还包括:
当所述数据调度单元监听到数据传入时,还识别所述数据的数据类型;
根据所述数据类型确定目标数据处理节点,所述目标数据处理节点用于对所述数据进行处理;
获取所述目标数据处理节点的物理地址信息;
将所述物理地址信息传送给所述数据分发单元。
6.根据权利要求5所述的数据处理方法,其特征在于,所述识别所述数据的数据类型的步骤包括:
提取所述数据的多个特征;
根据所述多个特征构建所述数据的特征向量;
根据预设分类算法对所述特征向量进行分类计算,以得到所述数据的数据类型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于OPPO广东移动通信有限公司,未经OPPO广东移动通信有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910282016.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:温度控制方法及相关产品
- 下一篇:行为偏好确定方法、装置、存储介质及电子设备