[发明专利]基于多平台样本的数据分类方法及装置有效
申请号: | 202011132185.3 | 申请日: | 2020-10-21 |
公开(公告)号: | CN111967541B | 公开(公告)日: | 2021-01-05 |
发明(设计)人: | 顾凌云;谢旻旗;段湾;潘峻;刘辉;张涛 | 申请(专利权)人: | 上海冰鉴信息科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N20/00 |
代理公司: | 成都顶峰专利事务所(普通合伙) 51224 | 代理人: | 匡睿 |
地址: | 200000 上海市浦东新区*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 平台 样本 数据 分类 方法 装置 | ||
1.一种基于多平台样本的数据分类方法,其特征在于,应用于数据分类服务器,所述数据分类服务器与X个业务平台通信连接,X为正整数,所述方法包括:
采集每个业务平台的N个样本数据;其中,每个样本数据包括M个特征自变量和1个特征因变量,N和M均为正整数;
以每个业务平台的N个样本数据中的每个样本数据中的M个特征自变量为模型特征并以该业务平台的N个样本数据中的每个样本数据中的特征因变量为机器学习模型的类别标签,建立每个业务平台对应的机器学习模型;其中,所述机器学习模型为分类器;
将每个业务平台的N个样本数据合并为一个待处理数据文件,采用已建立的X个机器学习模型对所述待处理数据文件进行处理,得到目标数据文件;其中,所述目标数据文件中包括所述样本数据的预估概率值;
计算所述目标数据文件中的预估概率值对应的相关性系数,得到相关性系数矩阵;
采用预设聚类算法对所述相关性系数矩阵进行聚类,得到聚类样本群以及所述聚类样本群对应的聚类标签,将所述聚类标签分别与每个业务平台的N个样本数据进行一一匹配;
其中,将每个业务平台的N个样本数据合并为一个待处理数据文件,包括:
将每个业务平台的N个样本数据进行纵向合并,得到X*i的待处理数据文件列表;其中,X表示所述待处理数据文件列表的行数,i=M+1表示所述待处理数据文件列表的列数;
其中,采用已建立的X个机器学习模型对所述待处理数据文件进行处理,得到目标数据文件,包括:
将所述待处理数据文件列表中的M个合并特征输入到第一个机器学习模型,使第一个机器学习模型对所述M个合并特征进行预估概率值的计算,以形成X*2的基准数据文件列表;其中,X*2的基准数据文件列表中的第一列为各个样本数据的主键,第二列为第一个机器学习模型的预估概率值;
将所述M个合并特征输入到第二个机器学习模型中,使第二个机器学习模型对所述M个合并特征进行预估概率值的计算得到第二个机器学习模型对应的预估概率值,并将第二个机器学习模型对应的预估概率值添加到X*2的基准数据文件列表中得到X*3的基准数据文件列表;
以此类推,得到X*j的目标数据文件列表;其中,j=N+1;
其中,采用预设聚类算法对所述相关性系数矩阵进行聚类,得到聚类样本群以及所述聚类样本群对应的聚类标签,包括:
以所述相关性系数矩阵的每行为一个目标样本,每列为一个待聚类特征,将所述相关性系数矩阵划分为N个待聚类样本;
将所述N个待聚类样本输入到kmeans聚类模型中,得到所述kmeans聚类模型输出的聚类样本群以及所述聚类样本群对应的聚类标签;其中,聚类样本群的数量为设定个数;
其中,将所述N个待聚类样本输入到kmeans聚类模型中,得到所述kmeans聚类模型输出的聚类样本群以及所述聚类样本群对应的聚类标签,包括:
获取N个待聚类样本中的当前待聚类样本的样本特征分布队列以及各样本特征数据;
在根据所述样本特征分布队列确定出所述N个待聚类样本中的当前待聚类样本中包含有可追溯性特征标签的情况下,根据N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据以及N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据的数据识别度,确定N个待聚类样本中的当前待聚类样本在非可追溯性特征标签下的各样本特征数据与N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的各样本特征数据之间的数据关联度,并将N个待聚类样本中的当前待聚类样本在所述非可追溯性特征标签下的与在所述可追溯性特征标签下的样本特征数据相关联的样本特征数据划分所述可追溯性特征标签下;
在N个待聚类样本中的当前待聚类样本的非可追溯性特征标签下包含有多个离散样本特征数据的情况下,根据N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据以及N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据的数据识别度确定N个待聚类样本中的当前待聚类样本的非可追溯性特征标签下的各离散样本特征数据之间的数据关联度,并根据所述各离散样本特征数据之间的数据关联度对非可追溯性特征标签下的各离散样本特征数据进行过滤;
根据N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据以及N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据的数据识别度为上述过滤获得的剩余样本特征数据设置划分标识,并根据所述划分标识将至少部分剩余样本特征数据划分到所述可追溯性特征标签下;获得所述kmeans聚类模型输出的当前待聚类样本以及所述当前待聚类样本对应的聚类标签,以此类推得到N个待聚类样本对应的聚类样本群以及所述聚类样本群对应的聚类标签。
2.一种基于多平台样本的数据分类装置,其特征在于,应用于数据分类服务器,所述数据分类服务器与X个业务平台通信连接,X为正整数,所述装置包括:
数据采集模块,用于采集每个业务平台的N个样本数据;其中,每个样本数据包括M个特征自变量和1个特征因变量,N和M均为正整数;
模型建立模块,用于以每个业务平台的N个样本数据中的每个样本数据中的M个特征自变量为模型特征并以该业务平台的N个样本数据中的每个样本数据中的特征因变量为机器学习模型的类别标签,建立每个业务平台对应的机器学习模型;其中,所述机器学习模型为分类器;
数据处理模块,用于将每个业务平台的N个样本数据合并为一个待处理数据文件,采用已建立的X个机器学习模型对所述待处理数据文件进行处理,得到目标数据文件;其中,所述目标数据文件中包括所述样本数据的预估概率值;
矩阵计算模块,用于计算所述目标数据文件中的预估概率值对应的相关性系数,得到相关性系数矩阵;
样本聚类模块,用于采用预设聚类算法对所述相关性系数矩阵进行聚类,得到聚类样本群以及所述聚类样本群对应的聚类标签,将所述聚类标签分别与每个业务平台的N个样本数据进行一一匹配;
其中,数据处理模块,用于:
将每个业务平台的N个样本数据进行纵向合并,得到X*i的待处理数据文件列表;其中,X表示所述待处理数据文件列表的行数,i=M+1表示所述待处理数据文件列表的列数;
其中,数据处理模块,用于:
将所述待处理数据文件列表中的M个合并特征输入到第一个机器学习模型,使第一个机器学习模型对所述M个合并特征进行预估概率值的计算,以形成X*2的基准数据文件列表;其中,X*2的基准数据文件列表中的第一列为各个样本数据的主键,第二列为第一个机器学习模型的预估概率值;
将所述M个合并特征输入到第二个机器学习模型中,使第二个机器学习模型对所述M个合并特征进行预估概率值的计算得到第二个机器学习模型对应的预估概率值,并将第二个机器学习模型对应的预估概率值添加到X*2的基准数据文件列表中得到X*3的基准数据文件列表;
以此类推,得到X*j的目标数据文件列表;其中,j=N+1;
其中,样本聚类模块,用于:
以所述相关性系数矩阵的每行为一个目标样本,每列为一个待聚类特征,将所述相关性系数矩阵划分为N个待聚类样本;
将所述N个待聚类样本输入到kmeans聚类模型中,得到所述kmeans聚类模型输出的聚类样本群以及所述聚类样本群对应的聚类标签;其中,聚类样本群的数量为设定个数;
其中,样本聚类模块,用于:
获取N个待聚类样本中的当前待聚类样本的样本特征分布队列以及各样本特征数据;
在根据所述样本特征分布队列确定出所述N个待聚类样本中的当前待聚类样本中包含有可追溯性特征标签的情况下,根据N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据以及N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据的数据识别度,确定N个待聚类样本中的当前待聚类样本在非可追溯性特征标签下的各样本特征数据与N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的各样本特征数据之间的数据关联度,并将N个待聚类样本中的当前待聚类样本在所述非可追溯性特征标签下的与在所述可追溯性特征标签下的样本特征数据相关联的样本特征数据划分所述可追溯性特征标签下;
在N个待聚类样本中的当前待聚类样本的非可追溯性特征标签下包含有多个离散样本特征数据的情况下,根据N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据以及N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据的数据识别度确定N个待聚类样本中的当前待聚类样本的非可追溯性特征标签下的各离散样本特征数据之间的数据关联度,并根据所述各离散样本特征数据之间的数据关联度对非可追溯性特征标签下的各离散样本特征数据进行过滤;
根据N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据以及N个待聚类样本中的当前待聚类样本在所述可追溯性特征标签下的样本特征数据的数据识别度为上述过滤获得的剩余样本特征数据设置划分标识,并根据所述划分标识将至少部分剩余样本特征数据划分到所述可追溯性特征标签下;获得所述kmeans聚类模型输出的当前待聚类样本以及所述当前待聚类样本对应的聚类标签,以此类推得到N个待聚类样本对应的聚类样本群以及所述聚类样本群对应的聚类标签。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海冰鉴信息科技有限公司,未经上海冰鉴信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011132185.3/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置