[发明专利]随机森林模型的构造方法、装置、电子设备及存储介质有效
申请号: | 201910968175.4 | 申请日: | 2019-10-12 |
公开(公告)号: | CN110705683B | 公开(公告)日: | 2021-06-29 |
发明(设计)人: | 聂佩芸;李扬 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06N3/00 | 分类号: | G06N3/00 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 王姗姗;张颖玲 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 随机 森林 模型 构造 方法 装置 电子设备 存储 介质 | ||
本发明提供了一种随机森林模型的构造方法、装置、电子设备及存储介质;方法包括:将数据集的多个维度特征变量划分为多个特征子集;基于每个特征子集的样本构造对应的决策树模型,基于决策树模型确定特征子集中每个特征变量的权重;根据每个特征子集中特征变量的权重的降序排列,从每个特征子集中抽样排序在前的部分特征变量,组合形成降维特征变量集合;将数据集中的样本划分为多个样本子集;按照降维特征变量集合对每个样本子集进行有放回抽样,以得到与数据集的样本量一致的新样本子集;基于每个新样本子集独立构造决策树模型,并将构造后的多个决策树模型进行集成得到随机森林模型;如此,能够提高随机森林模型的数据处理效率。
技术领域
本发明涉及互联网技术及区块链技术,尤其涉及一种随机森林模型的构造方法、装置、电子设备及存储介质。
背景技术
随机森林(RF,Random Forest)是通过集成学习的思想将多棵决策树集成的一种算法,相关技术中,对于随机森林模型的构造,所采用的样本需要在大数据量的全量样本中进行样本抽样,进入到模型的不重复数据量大、特征维度高,使得所形成的随机森林模型的数据计算时间长、数据处理效率低。
发明内容
本发明实施例提供一种随机森林模型的构造方法、装置、电子设备及存储介质,能够提高随机森林模型的数据处理效率。
本发明实施例的技术方案是这样实现的:
本发明实施例提供一种随机森林模型的构造方法,包括:
将数据集包括的多个维度特征变量划分为多个特征子集;
在每个所述特征子集上运行决策树模型,以确定所述特征子集中每个特征变量的权重;
根据每个所述特征子集中特征变量的权重的降序排列,从每个特征子集中抽样排序在前的部分特征变量,以组合形成降维特征变量集合;
将所述数据集中对应所述降维特征变量集合的样本划分为多个样本子集;
按照所述降维特征变量集合对每个所述样本子集进行有放回抽样处理,以对应每个所述样本子集抽样得与所述数据集的样本量一致的新样本集合;
基于每个所述新样本集合独立构造决策树模型,并将构造后的多个决策树模型进行集成形成随机森林模型。
上述方案中,所述按照所述降维特征变量集合对每个所述样本子集进行有放回抽样处理,以对应每个所述样本子集抽样得与所述数据集的样本量一致的新样本子集,包括
遍历将所述数据集中的样本划分所形成的b个样本子集,针对遍历的每个样本子集执行以下处理:
对所遍历的样本子集进行s次有放回抽样,得到样本量为n的新样本子集;
其中,s*b=n,s、b和n均为大于1的整数,n为所述数据集中的样本量。
上述方案中,所述分别构造与所述多个新样本子集一一对应的决策树模型,包括:
遍历所述多个新样本子集,并对当前遍历的新样本执行以下处理:
构造对应决策树模型的根节点,所述根节点包括所述样本子集包括的所有特征变量、以及对应所述特征变量的样本;
从所述根节点中抽取使得所述决策树模型的异质性指数最大的特征变量,以构造新的节点,并递归地从所述新的节点中抽取使得所述决策树模型的异质性指数最大的特征变量,以构造更新的节点。
本发明实施例提供一种随机森林模型的构造装置,所述装置包括:
划分模块,用于将数据集包括的多个维度特征变量划分为多个特征子集;
确定模块,用于基于每个所述特征子集的样本构造对应的决策树模型,并基于所述决策树模型确定所述特征子集中每个特征变量的权重;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910968175.4/2.html,转载请声明来源钻瓜专利网。