[发明专利]基于实时流计算分析的特征提取系统及方法在审
申请号: | 202111562594.1 | 申请日: | 2021-12-20 |
公开(公告)号: | CN114297276A | 公开(公告)日: | 2022-04-08 |
发明(设计)人: | 张雷;王金国;杨尚伟 | 申请(专利权)人: | 中孚安全技术有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/2455;G06F16/27 |
代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 祖之强 |
地址: | 250101 山东省济南市高新*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 实时 计算 分析 特征 提取 系统 方法 | ||
1.一种基于实时流计算分析的特征提取系统,其特征在于:
至少包括:
DSL解析层,被配置为:获取待分析事件流的多个特征,确定特征间的依赖关系,根据依赖关系进行特征的深度分组,根据深度分组结果得到特征提取的执行计划;
执行层,被配置为:按照深度由大到小依次计算各个深度分组中的所有特征,进行实时流计算,得到特征提取结果。
2.如权利要求1所述的基于实时流计算分析的特征提取系统,其特征在于:
还包括:状态存储层;
所述状态存储层,被配置为:使用Apache Ignite或者Redis Cluster分布式内存数据库进行状态管理。
3.如权利要求2所述的基于实时流计算分析的特征提取系统,其特征在于:
结合消息中间件对流数据的分区功能,进行特征提取引擎的集群。
4.如权利要求1所述的基于实时流计算分析的特征提取系统,其特征在于:
DSL解析层,包括:Source输入流、Sink输出流、Field字段、Operator算子、Function函数、Macro宏以及Mode操作模式。
5.如权利要求4所述的基于实时流计算分析的特征提取系统,其特征在于:
Source输入流定义事件的输入流,终端上报数据到消息队列,实时流计算特征提取引擎将消息队列作为事件的输入流。
6.如权利要求4所述的基于实时流计算分析的特征提取系统,其特征在于:
Sink输出流定义事件的输出流,与输入源对应,当特征提取引擎对事件提取完成以后,将特征追加到事件上,再将附加了特征的事件输出到消息队列中。
7.如权利要求4所述的基于实时流计算分析的特征提取系统,其特征在于:
Field字段为参与特征提取的JSON串,当原始事件中的名字与预想不一致,通过Field字段映射功能设定特征引擎感兴趣的字段与原始事件之间的对应关系。
8.如权利要求1所述的基于实时流计算分析的特征提取系统,其特征在于:
DSL解析层中,如果同一个特征在不同的树中有不同的深度,将特征的深度设置为最大的那个深度值。
9.如权利要求1所述的基于实时流计算分析的特征提取系统,其特征在于:
DSL解析层中,将所有这些树中的特征按照对应节点在各自树中的深度分组,每个组有若干特征的执行计划。
10.一种基于实时流计算分析的特征提取方法,其特征在于:
包括以下过程:
获取待分析的多个特征,根据获取的子特征确定特征间的依赖关系,根据依赖关系进行特征的深度分组,根据深度分组结果得到特征提取的执行计划;
按照深度由大到小依次计算各个深度分组中的所有特征,进行实时流计算,得到特征提取结果;
使用Apache Ignite或者Redis Cluster分布式内存数据库进行状态管理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中孚安全技术有限公司,未经中孚安全技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111562594.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于惯性测量单元的融合定位方法
- 下一篇:一种骨科复健架