[发明专利]用于预测的系统和方法

说明书

提供了一种用于预测的系统，包括：分类单元，被配置为采用深层神经网络对所有输入数据进行分类；预测单元，被配置为针对每一类输入数据，训练相应的一个子深层神经网络并进行预测；以及计算单元，被配置为对多个子深层神经网络的预测结果进行加权平均，作为最终的预测结果。还提供了一种用于预测的方法。本发明能够提高预测的精度，特别是针对缺乏相应的训练数据的情况。

技术领域

本申请涉及数据分析领域，具体涉及一种用于预测的系统和方法。

背景技术

目前，基于神经网络预测方法已经被用于数据预测。基于神经网络的预测方法首先需要采集一些真实数据做为样本，用于训练网络，然后用训练好的网络进行预测。

然而，这种方法的预测准确度非常依赖于训练网络时所用样本数据的数量和质量。当训练数据的数量不足，或者待预测数据与训练样本特征差异较大时，预测结果往往是不准确的。例如，极端天气状况较少发生，因而相应的数据比较缺乏。但是，准确预测这种极端天气是非常需要的。

发明内容

本发明提出一种分层的、组合使用多个深层神经网络的预测方案，能够提高预测精度，特别是针对缺乏相应的训练数据的情况。本发明的主要想法是：首先，利用自编码深层神经网络的特点，对每一个输入数据计算其重构误差，并基于重构误差对输入数据进行归类；然后，对每一类输入数据训练一个子深层神经网；最后，加权平均多个子深层神经网的预测结果作为最终预测结果，其中，权重的分配取决于多个子深层神经网的重构误差的大小。

根据本发明的第一方面，提供了一种用于预测的系统，包括：分类单元，被配置为采用深层神经网络对所有输入数据进行分类；预测单元，被配置为针对每一类输入数据，训练相应的一个子深层神经网络并进行预测；以及计算单元，被配置为对多个子深层神经网络的预测结果进行加权平均，作为最终的预测结果。

在一个实施例中，分类单元被配置为：使用所有输入数据来训练自编码深层神经网络；使用训练得到的自编码深层神经网络，计算每一个输入数据的重构误差；以及根据重构误差的大小，对每一个输入数据进行分类。

在一个实施例中，分类单元被配置为：以无监督的方式训练自编码深层神经网络，使得损失函数最小化。

在一个实施例中，分类单元被配置为采用以下分类方式对输入数据进行分类：直接利用重构误差的分类方式、通过加权的分类方式或可重叠的分类方式。

在一个实施例中，预测单元被配置为：针对每一类输入数据，训练相应的一个子深层神经网络并进行预测，每个子深层神经网络输出预测结果和重构误差。

在一个实施例中，计算单元被配置为：对多个子深层神经网络的预测结果进行加权平均，权重的分配取决于多个子深层神经网络的重构误差的大小。

根据本发明的第二方面，提供了一种用于预测的方法，包括：采用深层神经网络对所有输入数据进行分类；针对每一类输入数据，训练相应的一个子深层神经网络并进行预测；以及对多个子深层神经网络的预测结果进行加权平均，作为最终的预测结果。

在一个实施例中，分类步骤包括：使用所有输入数据来训练自编码深层神经网络；使用训练得到的自编码深层神经网络，计算每一个输入数据的重构误差；以及根据重构误差的大小，对每一个输入数据进行分类。

在一个实施例中，以无监督的方式训练自编码深层神经网络，使得损失函数最小化。

在一个实施例中，采用以下分类方式对输入数据进行分类：直接利用重构误差的分类方式、通过加权的分类方式或可重叠的分类方式。

在一个实施例中，针对每一类输入数据，训练相应的一个子深层神经网络并进行预测，每个子深层神经网络输出预测结果和重构误差。

在一个实施例中，对多个子深层神经网络的预测结果进行加权平均，权重的分配取决于多个子深层神经网络的重构误差的大小。