[发明专利]一种利用宽度神经网络改进的随机森林集成方法

权利要求书

1.一种基于特征映射层以及增强层结构的随机森林集成方法，其特征在于：它包括模型设计和模型训练两部分；

其中模型设计部分主要包括特征映射层和增强层的设计、输出权重的设计两部分，通过设计随机森林和完全随机森林组成的神经网络节点，以自适应调节模型的宽度，通过节点的平均准确率得到本地权重，根据本地权重计算输出权重，最后求解最终输出向量；

模型训练部分步骤为，首先将每个原始输入数据处理得到输入特征向量，其中对于具有空间联系的原始输入数据使用多粒度扫描进行处理得到输入特征向量，将各个特征间不存在空间关系的一维输入数据作为输入特征向量，将处理得到的一维输入数据特征向量作为一个样本生成包含n个节点的特征映射层，求解每个特征映射层节点的本地权重，将本地权重低于一维输入数据节点重新生成随机森林，k为类别数量，；然后将每个样本经过特征映射层得到的输出同原始特征向量合并作为一个样本生成包含m个节点的增强层，求解每个增强层节点的本地权重，将本地权重低于1/k的节点重新生成随机森林，通过本地权重求解每个节点的输出权重；通过上述步骤增加增强层节点，更新输出权重；在上述前向运算训练过程中引入的淘汰制和输出权重快速更新方法，使得模型可以快速训练。

2.根据权利要求1所述基于特征映射层以及增强层结构的随机森林集成方法，其特征在于特征映射层和增强层的设计,特征映射层和增强层均由多个神经网络节点组成，每个神经网络节点包括一个完全随机森林和一个随机森林，其中特征映射层由n个节点组成，节点输出结果为两个随机森林输出结果的平均值；

原始输入训练数据样本集经过多粒度扫描处理得到N个输入特征向量，将特征向量作为样本特征训练特征映射层节点，其中N为样本的个数；每个样本经过特征映射层得到F＝[F₁,F₂,Λ,F_n]，F_i为k维预测向量，特征映射层输出n个特征向量，每个特征向量均为包含k个预测值的列向量，将每个样本的特征映射层的输出F和对应原始数据经过处理得到的输入特征向量合并作为样本特征，样本标签与原标签一致，所述样本标签为训练样本的真实类别，准备训练数据时标注，生成m个增强层节点，每个节点包含一个完全随机森林和一个随机森林，节点输出结果为两个随机森林输出结果的平均值，动态增加增强层节点以加宽模型宽度并更新输出权重，直至模型输出的预测准确率不再上升；

整个模型通过训练自适应决定模型的宽度，特征映射层的输出和增强层的输出共同构成输出层的输入矩阵A＝[F₁,F₂,Λ,F_n,E₁,Λ,E_m](其中F₁,F₂,Λ,F_n,E₁,Λ,E_m均为包含k个预测值的列向量，参与最终输出向量的预测。

3.根据权利要求2所述基于特征映射层以及增强层结构的随机森林集成方法，其特征在于根据本节点平均准确率得到本地权重，根据本地权重求解得到输出权重：

首先根据该节点将样本预测为目标类别的平均概率，将将求解得到的平均概率作为该节点的本地权重，再根据本地权重求解输出权重，输出权重为所有节点本地权重之和的占比：若第j个节点的本地权重为ω_j,j＝1,2,Λn+m，则可以通过j＝1,2,Λn+m计算输出权重输出权重W＝[W₁,W₂,L,W_n+m]^T，其中n为特征映射层节点数，m为增强层节点数，T为矩阵转置。

当增加增强层节点时，其输出权重为更新前的输出权重乘以更新前后权重变化率，即更新前权重之和除以更新后权重之和。每个样本通过宽度随机森林最终输出的类别向量Y＝A·W，式中，Y为类别向量，A为特征映射层节点与增强层节点总和。