[发明专利]一种基于集成神经网络的用户购买行为预测方法

权利要求书

1.一种基于集成神经网络的用户购买行为预测方法，其特征在于，包括以下步骤：

1)对用户行为历史记录进行特征提取和采样，从中获得能概括用户、物品特征和用户购买标签的样本集合T1；

2)利用Boosting集成方法形成分类器C1，对样本集合T1进行分类处理和特征集成，得到新的样本集合T2；

3)构建神经网络的基本结构，利用基因算法对神经网络的参数进行启发式搜索，得到最优的神经网络，并将得到的最优的神经网络集成起来，形成集成神经网络分类器C2；

对于所构建的神经网络，由1个输入层、1个输出层和3个隐藏层组成，输入层的神经元个数为输入数据的特征个数，输出层的神经元个数为2，代表二维的预测结果，隐藏层则采用全连接的方式；神经网络的隐藏层层数、每一层的神经元个数、神经网络的迭代次数和每次迭代大小参数都由基因算法进行启发式搜索得到，通过基因算法的迭代来得到各个参数的最优解，并以此形成最优的神经网络；

4)利用分类器C2对样本集合T2进行分类处理，其中每一个神经网络都会处理样本集合中的一部分，并在分类器C2的输出前进行结果融合和特征集成，最后得到新的样本集合T3；

对于新的样本集合T2，对其进行归一化处理后，将其等比例划分为n份，分别称为T2_1、T2_2、T2_3、……、T2_n；对于分类器C2中的一个神经网络，它的训练集为T2集合中的n-1份，测试集为剩下的1份；n个训练后的神经网络模型分别对各自的测试集进行预测，得到n个预测结果，称为y3_1、y3_2、y3_3、……、y3_n，将这n个预测结果合并成新的预测结果y3；将y3作为新的特征并入样本特征X2中，形成新的样本特征X3；样本特征X3和标签部分y1形成的新的样本集合称为T3；

5)利用Bagging集成方法形成分类器C3，对样本集合T3进行分类处理，得到用户会产生购买行为的物品列表，作为对于用户购买行为的预测结果。

2.根据权利要求1所述的一种基于集成神经网络的用户购买行为预测方法，其特征在于：在步骤1)中，所述的用户行为历史记录包含用户的标识、物品的标识、用户行为的类别以及用户和物品交互的时间和交互的地理位置信息；通过统计分析和人工推断的方式，从中提取出能体现用户、物品特点，预测用户行为倾向的特征，再经过正负样本均衡采样和异常值处理，得到原始样本集合的特征部分；用户最终是否购买作为原始样本集合的标签部分；特征部分和标签部分共同构成样本集合T1。

3.根据权利要求1所述的一种基于集成神经网络的用户购买行为预测方法，其特征在于：在步骤2)中，将决策树进行Boosting集成，形成的分类器C1为一个梯度提升分类器；对于从用户行为历史记录中提取的样本集合T1，其特征部分为X1，标签部分为y1；将X1作为分类器C1的输入，得到预测结果y2，其每一行为一个二维向量，分别代表预测结果为不购买的概率和预测结果为购买的概率；将y2作为新的特征并入到原先的样本特征X1中，形成新的样本特征X2，样本特征X2和标签部分y1形成的新的样本集合称为T2。

4.根据权利要求1所述的一种基于集成神经网络的用户购买行为预测方法，其特征在于：在步骤5)中，将决策树进行Bagging集成，形成的分类器C3为一个随机森林分类器；对于新的样本集合T3，将其特征部分X3作为分类器C3的输入，得到预测结果y4，其每一行为一个二维向量，分别代表预测结果为不购买的概率和预测结果为购买的概率；对预测结果按照购买的概率进行排序后，就得到用户会产生购买行为的物品列表，作为最终的输出结果。