[发明专利]一种用于多数据源的流式数据处理方法及装置有效
申请号: | 201611259435.3 | 申请日: | 2016-12-30 |
公开(公告)号: | CN106878171B | 公开(公告)日: | 2020-03-13 |
发明(设计)人: | 汤奇峰;曹礼洋 | 申请(专利权)人: | 晶赞广告(上海)有限公司 |
主分类号: | H04L12/721 | 分类号: | H04L12/721;H04L12/741;H04L29/06 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 张振军;吴敏 |
地址: | 200072 上海市闸北区灵*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 多数 数据处理 方法 装置 | ||
1.一种用于多数据源的流式数据处理方法,其特征在于,包括如下步骤:
当数据到达传输管道的接入点时,获取所述数据包括的消息头和消息体,所述消息头包含所述消息体的特征信息,所述数据来自多个数据源中的任一数据源;
在所述消息头的指示下对所述数据进行传输和处理,以将所述数据经由所述传输管道的出口点传输至目的点,所述目的点根据所述消息头确定;
其中,所述数据在所述传输管道内的传输路径根据所述消息头或者消息体确定;
不同的传输路径具有不同的处理功能。
2.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,所述目的点包括:使用和/或存储所述数据的终端。
3.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理包括:
根据所述消息体与预设标准的比较结果,确定所述数据在所述传输管道内的传输路径,以将符合所述预设标准的数据经由所述传输路径传输至所述出口点。
4.根据权利要求3所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理还包括:
若所述消息体不符合所述预设标准,则将所述数据从所述传输管道中移除,或者将所述传输管道的出口点修正为错误数据传输管道的接入点。
5.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理包括:
根据所述消息体确定所述目的点是否需要更改;
若所述目的点需要更改,则根据更改后的目的点确定所述数据在所述传输管道内的传输路径,以将所述数据经由所述传输路径传输至所述出口点。
6.根据权利要求5所述的用于多数据源的流式数据处理方法,其特征在于,根据所述消息体确定所述目的点是否需要更改包括:
根据所述消息体判断所述消息头是否需要更改;
当判断结果表明所述消息头需要更改时,将所述消息头更改为与所述消息体相对应的消息头,并确定所述目的点需要更改。
7.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理包括:
根据所述消息头确定所述数据在所述传输管道内的传输路径,以将所述数据经由所述传输路径传输至所述出口点。
8.根据权利要求1所述的用于多数据源的流式数据处理方法,其特征在于,在所述消息头的指示下对所述数据进行传输和处理包括:
根据所述消息体的类型确定是否需要将所述数据分解为至少两个子数据,所述子数据也包括消息头和消息体;
当确定需要将所述数据分解为至少两个子数据时,根据每一子数据的特征信息确定对应的消息头;
针对每一子数据,根据所述子数据的消息头确定对应的目的点,并确定所述子数据在所述传输管道内的传输路径,以将所述子数据经由所述传输路径传输至所述出口点。
9.一种用于多数据源的流式数据处理装置,其特征在于,包括:
获取模块,当数据到达传输管道的接入点时,获取所述数据包括的消息头和消息体,所述消息头包含所述消息体的特征信息,所述数据来自多个数据源中的任一数据源;
处理模块,用于在所述消息头的指示下对所述数据进行传输和处理,以将所述数据经由所述传输管道的出口点传输至目的点,所述目的点根据所述消息头确定;
其中,所述数据在所述传输管道内的传输路径根据所述消息头或者消息体确定;
不同的传输路径具有不同的处理功能。
10.根据权利要求9所述的用于多数据源的流式数据处理装置,其特征在于,所述目的点包括:使用和/或存储所述数据的终端。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于晶赞广告(上海)有限公司,未经晶赞广告(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611259435.3/1.html,转载请声明来源钻瓜专利网。