[发明专利]基于流计算引擎的实时标签处理方法和装置在审
申请号: | 201810265932.7 | 申请日: | 2018-03-28 |
公开(公告)号: | CN108614862A | 公开(公告)日: | 2018-10-02 |
发明(设计)人: | 陈阳;刘婧;朱天;饶毓;张帅;雷君;徐小琳;王振宇 | 申请(专利权)人: | 国家计算机网络与信息安全管理中心 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F8/30 |
代理公司: | 北京中原华和知识产权代理有限责任公司 11019 | 代理人: | 丁慧玲;寿宁 |
地址: | 100029*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 标签处理 元数据 标签处理信息 数据输出信息 方法和装置 计算引擎 任务类型 任务配置 数据标签 标签处理规则 数据源信息 多源数据 简单配置 配置数据 任务流程 需求设定 大数据 配置的 源信息 构建 自动化 规范化 创建 | ||
1.一种基于流计算引擎的实时标签处理方法,其特征在于:所述方法包括:
步骤1、根据标签处理任务的需求设定标签处理任务类型;
步骤2、根据所设定的标签处理任务类型,配置数据源信息、标签处理信息和数据输出信息;
步骤3、根据所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据;
步骤4、根据所述标签处理任务配置元数据,创建并执行所述标签处理任务。
2.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述步骤1中,所述标签处理类型包括键-值对提取、正则匹配和字段映射。
3.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述步骤2中,配置数据源信息包括以下步骤:
步骤2.1.1、编辑数据源信息,并发送数据源添加请求;
步骤2.1.2、根据所述数据源添加请求判断对应的数据源信息是否为新添加的数据源信息,若是,则执行步骤2.3,否则执行步骤2.4;
步骤2.1.3、添加所述数据源信息;
步骤2.1.4、判断所述数据源信息是否需要更新,若需要,更新对应的数据源信息,否则,结束数据源信息添加流程。
4.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述数据源信息包括:数据源存储类型、数据源位置或路径以及数据源访问账户信息和数据源描述信息中的一种或多种;
其中,所述数据源存储类型包括本地文件、分布式数据仓库H IVE、消息队列、网络文件传输FTP;
所述数据源描述信息包括数据源名称、数据字段名称、数据字段类型、数据文件分隔符,所述数据源名称包括文件名、数据表名、消息类型或队列名称。
5.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述标签处理信息包括待处理数据源字段、结果标签字段名称、结果标签字段类型和标签处理规则列表中的一种或多种,其中,所述标签处理规则列表对应一个以上标签处理操作,所述标签处理规则列表通过对应每个标签处理操作,进行标签处理规则注册所得。
6.根据权利要求5所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述标签处理规则注册述包括以下步骤:
步骤2.2.1、编辑标签处理规则描述数据,并发送标签处理规则注册请求;
所述标签处理规则描述数据包括标签处理输入参数、标签处理输出参数和规则程序信息;
步骤2.2.2、根据所述标签处理规则注册请求判断对应的标签处理规则是否为新注册的标签处理规则,若是,则执行步骤2.2.3,否则执行步骤2.2.4;
步骤2.2.3、注册所述所述标签处理规则;
步骤2.2.5、判断所述所述标签处理规则是否需要更新,若需要更新,则更新对应的标签处理规则,否则,结束标签处理规则注册流程。
7.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述数据输出信息包括结果数据存储类型、结果数据存储位置或路径、结果数据名称和结果数据存储系统的访问账户信息中的一种或多种;
其中,所述结果数据存储类型包括本地文件、分布式数据仓库H IVE、消息队列、网络文件传输FTP;
所述结果数据名称包括文件名、数据表名、消息类型或队列名称。
8.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述步骤3包括:组合所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国家计算机网络与信息安全管理中心,未经国家计算机网络与信息安全管理中心许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810265932.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种展示对象的方法及设备
- 下一篇:一种浮动数据帧帧头查找方法及系统