[发明专利]基于数据序列的预测模型双向学习的学习装置和方法

说明书

为了基于数据序列准确地学习预测模型，提供了一种方法，包括基于用于通过从排列有包括多个输入值的多条输入数据的第一输入数据序列依次输入每条输入数据来执行学习处理的第一模型，通过以与第一模型中的顺序不同的顺序从排列有包括多个输入值的多条输入数据的第二输入数据序列输入每条输入数据来生成用于学习包括在所述第一模型中的第一学习目标参数的第二模型；使用所述第一模型和所述第二模型来执行学习处理；以及输出已被学习的所述第一模型。还提供了一种计算机程序产品和装置。

技术领域

本发明涉及一种用于基于数据序列的预测模型的双向学习的学习装置和方法。

背景技术

传统上，已知可应用于时间序列数据的神经网络、玻尔兹曼机器等。此外，已知一种动态玻尔兹曼机器，其可以通过机器学习来学习与时间序列中的数据输入相对应的模型。

期望通过基于数据序列准确地学习预测模型来使这种玻尔兹曼机器等具有改善的表达能力，学习能力等，以便应用于诸如运动图像、语言、信号波形和音乐的各种领域。

发明内容

根据本发明的第一方面，提供了一种方法，包括：基于用于通过从排列有包括多个输入值的多条输入数据的第一输入数据序列顺序输入每条输入数据来执行学习处理的第一模型，通过以与第一模型中的顺序不同的顺序从排列有包括多个输入值的多条输入数据的第二输入数据序列输入每条输入数据来生成用于学习包括在所述第一模型中的第一学习目标参数的第二模型；使用所述第一模型和所述第二模型来执行学习处理；以及输出已被学习的所述第一模型。还提供了一种计算机程序产品和设备。所述第一方面使用第一模型和第二模型以不同的顺序输入所述输入数据，因此与仅在一个方向上学习的模型相比，可以被操作以提高学习能力。

根据本发明的第二方面，提供了一种方法、计算机程序产品和装置，其中所述第一输入数据序列和第二输入数据序列是时序输入数据序列，所述第一模型按照从较旧的输入数据开始的顺序输入所述第一个输入数据序列，以及所述第二模型按照从较新的输入数据开始的顺序输入所述第二输入数据序列。所述第二方面可被操作用于提高对应于时间序列输入数据的模型的学习能力。

根据本发明的第三方面，提供了一种方法、计算机程序产品和装置，其中所述第一学习目标参数可被操作用于通过使用所述第二模型学习而不是使用所述第一模型学习而以更高的准确度学习，并且所述第二学习目标参数可操作以通过使用所述第一模型学习而不是使用所述第二模型学习而以更高的准确度学习。所述第三方面可被操作用于通过学习所述第一模型和所述第二模型来学习所述第一学习目标参数和所述第二学习目标参数。

根据本发明的第四方面，提供了一种方法、计算机程序产品和装置，其中所述第一模型包括在所述第一输入数据序列的每个时间点依次输入多个输入值的多个输入节点，以及在对应于所述多个输入节点的时间点之前的时间点的每个输入节点和每个输入值之间的权重参数，以及所述第二模型包括以反向顺序在所述第二输入数据序列的每个时间点处输入多个输入值的多个输入节点，以及在对应于所述多个输入节点的时间点之后的时间点的每个输入节点和每个输入值之间的权重参数。所述第四方面可操作用于提高玻尔兹曼机器的学习能力。

根据本发明的第五方面，提供了一种方法，其中所述执行学习处理包括使用具有所述第一模型的所述学习处理，学习对应于与在所述第一模型中的所述多个输入节点对应的所述时间点之前的所述时间点的每个隐藏节点与每个输入值之间的所述权重参数；以及使用具有所述第二模型的所述学习处理，学习对应于与在所述第二模型中的所述多个输入节点对应的所述时间点之后的所述时间点的每个输入节点和多个隐藏节点的每个隐藏节点之间的所述权重参数。所述第五方面可操作用于提高玻尔兹曼机器的学习能力。

发明内容不一定描述本发明实施例的所有必要特征。本发明还可以是上述特征的子组合。

附图说明

图1示出了根据本发明实施例的学习装置100的示例性配置；