[发明专利]一种基于K-means的海量流式数据的聚类方法及系统在审
申请号: | 202010115811.1 | 申请日: | 2020-02-25 |
公开(公告)号: | CN111310843A | 公开(公告)日: | 2020-06-19 |
发明(设计)人: | 熊战磊 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 济南诚智商标专利事务所有限公司 37105 | 代理人: | 黄晓燕 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 means 海量 数据 方法 系统 | ||
1.一种基于K-means的海量流式数据的聚类方法,其特征是,所述方法包括以下步骤:
获取互联网用户的行为数据,对所述行为数据进行预处理,转化成用于聚类分析的数据;
对所述数据进行聚类分析,根据时间间隔将数据流拆分成小批次数据,基于预设的更新规则,对所述小批次数据进行处理,持续更新聚类模型。
2.根据权利要求1所述基于K-means的海量流式数据的聚类方法,其特征是,对所述行为数据进行预处理,转化成用于聚类分析的数据的具体过程为:
将行为数据中的干扰数据进行去除;
对用户某行为中包含的关键词数据进行连接,形成行为信息表;
将行为数据中包含的数据信息转化为数值形式。
3.根据权利要求1所述基于K-means的海量流式数据的聚类方法,其特征是,对所述数据进行聚类分析的具体过程为:
初始化聚类中心点;
计算每个新批次数据点与聚类中心点的距离;
根据最小距离,将新到的数据点分配到距离最近的聚类簇;
计算聚类簇的均值,得到新的聚类中心点;
根据更新规则,更新聚类模型中的聚类中心点及聚类簇对应的权重值;
检测权重值最小的聚类簇是否消失,若消失,则拆分权重值最大的聚类中心点为两个新的聚类中心点;
对新到来的数据,重复上述步骤的处理过程,持续更新聚类模型。
4.根据权利要求3所述基于K-means的海量流式数据的聚类方法,其特征是,所述预设的更新规则通过更新公式来实现,所述更新公式为:
Wt+1=Wta+mt
nt+1=nt+mt
式中,ct表示前一个聚类中心点,ct+1表示更新后的聚类中心点,xt表示根据新到数据计算出的聚类中心点,nt表示更新之前聚类簇中数据点的个数,mt表示新到来的数据点的个数,nt+1表示更新之后聚类簇中数据点的个数,wt表示更新之前聚类簇的权重值,wt+1表示更新之后聚类簇的权重值,a为衰减因子。
5.根据权利要求3所述基于K-means的海量流式数据的聚类方法,其特征是,所述检测权重值最小的聚类簇是否消失的具体过程为:
判断更新后聚类簇的权重值是否满足下式,若满足,则认为当前聚类簇消失,
式中,∈为阈值参数。
6.根据权利要求3所述基于K-means的海量流式数据的聚类方法,其特征是,拆分后两个聚类簇的权重值是拆分前聚类模型中最小权重值与最大权重值的均值。
7.根据权利要求1-6任一项所述基于K-means的海量流式数据的聚类方法,其特征是,所述方法还包括:
根据所述聚类模型,对用户行为进行分析评价。
8.一种基于K-means的海量流式数据的聚类系统,其特征是,所述系统包括:
数据预处理模块,用于获取互联网用户的行为数据,对所述行为数据进行预处理,转化成用于聚类分析的数据;
聚类分析模块,对所述数据进行聚类分析,根据时间间隔将数据流拆分成小批次数据,基于更新规则,对所述小批次数据进行处理,持续更新聚类模型。
9.根据权利要求8所述基于K-means的海量流式数据的聚类系统,其特征是,所述数据预处理模块包括:
数据清洗单元,用于将行为数据中的干扰数据进行去除;
数据连接单元,用于对用户某行为中包含的关键词数据进行连接,形成行为信息表;
数据整理单元,用于将行为数据中包含的数据信息转化为数值形式。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010115811.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置