[发明专利]一种基于二叉树结构的不平衡数据处理方法在审
申请号: | 201810320811.8 | 申请日: | 2018-04-11 |
公开(公告)号: | CN108920477A | 公开(公告)日: | 2018-11-30 |
发明(设计)人: | 胡勤生;梁亚玲;杜明辉 | 申请(专利权)人: | 华南理工大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06K9/62 |
代理公司: | 广州市华学知识产权代理有限公司 44245 | 代理人: | 刘巧霞 |
地址: | 510640 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 负样本 集合 二叉树结构 空间集合 正负样本 数据处理 正样本 归一化处理 原始数据集 基分类器 聚类算法 特征差异 样本集合 叶子节点 原始空间 不相交 二叉树 数据集 分裂 方差 极差 副本 噪声 样本 抽样 重复 平衡 创建 | ||
1.一种基于二叉树结构的不平衡数据集的处理方法,其特征在于,具体步骤包括:
(1)将原始数据集Ω按标签划分为正样本空间集合ΩP和负样本空间集合ΩN,同时创建负样本空间集合的副本CN;
(2)选择每个平衡样本集合的样本平衡比r、选择树的深度D、叶子节点的最少样本数量LeafMin以及基于原型聚类的基聚类算法Γ;
(3)采用步骤(2)中所选择的基聚类算法Γ将负样本集合CN划分为2个不相交的簇Ci,i=1,2;
(4)根据分裂准则,判断步骤(3)中所划分的簇,即CN←Ci,i=1,2是否满足分裂准则;若满足分裂准则,则对负样本集合CN重复步骤(3)和步骤(4)直至当前负样本集合CN不再满足分裂准则;递归完毕后,形成二叉树Τ;
(5)对步骤(4)得到的二叉树叶子节点上的每个负样本集合Θj进行所有特征xnm(j)的归一化处理,归一化后求解特征差异度方差FeatureVar(k)和特征极差程度FeatureRange(k)两个参数;重复步骤(5)多次,根据特征差异度方差FeatureVar(k)和特征极差程度FeatureRange(k),挑选出最佳的负样本集合
(6)对步骤(5)得到的最佳负样本集合按照一定比例进行抽样,得到平衡负样本集合Ψ;
(7)将原始空间中的正样本集合ΩP与步骤(6)得到的平衡负样本集合Ψ构成一个平衡样本集合Ωbalance。
2.根据权利要求1所述的一种基于二叉树结构的不平衡数据处理方法,其特征在于,步骤(1)中划分后的正样本空间集合大小为|ΩP|,负样本空间集合大小为|ΩN|,且正、负样本空间集合有如下关系:
3.根据权利要求1所述的一种基于二叉树结构的不平衡数据处理方法,其特征在于,在步骤(2)的选择过程中,树的深度和叶子节点的最少样本数量须同时满足D>0,LeafMin≥2;通过树的深度D以及叶子节点最少样本数量LeafMin来确定分裂准则;当当前树的深度以及叶子节点的最少样本数量满足D>0,LeafMin≥2时,继续对节点进行分裂。
4.根据权利要求1所述的一种基于二叉树结构的不平衡数据处理方法,其特征在于,步骤(4)中,形成二叉树具体方法为:
将步骤(3)中得到的Ci,i=1,2先后记为CN,即CN←Ci,i=1,2;再根据分裂准则D'<D,|CN|>=LeafMin判断是否继续分裂;若满足分裂准则,则对负样本集合CN重复步骤(3)和步骤(4),直到当前负样本集合不再满足分裂准则;递归完毕后,最终所形成二叉树为Τ,记二叉树Τ上的叶子节点上的负样本集合为Θj,j=1,2,.....S;叶子节点个数满足0<m≤2D。
5.根据权利要求1所述的一种基于二叉树结构的不平衡数据处理方法,其特征在于,步骤(5)中进行归一化处理,具体为:
对每一个负样本集合Θj进行所有特征xnm(j)的归一化处理,其中,j表示第j个负样本集合,n表示负样本集合中第n个样本,m表示负样本集合中第m个特征;
对于每个负样本集合中的元素按照
其中,N(j)表示第j个负样本集合Θj中样本的个数,M表示原始样本空间的特征维度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810320811.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种短文本相似度计算方法
- 下一篇:基于小系统的批量数据分段采集方法