[发明专利]循环神经网络的学习方法及用于该学习方法的计算机程序、和声音识别装置

摘要

提供使基于时间序列的数据的循环神经网络(RNN)的学习高效化的学习方法。学习方法包含：步骤(220)，将RNN初始化；和学习步骤(226)，将某矢量指定为开始位置，将各参数最佳化，以使得误差函数最小化，由此进行RNN的学习。学习步骤(226)包含：更新步骤(250)，使用以被指定的矢量为开头的连续的N个(N≥3)矢量，通过将末尾的矢量的参考值设为正解标签的Truncated BPTT来更新RNN的参数；和第1重复步骤240，直到结束条件成立为止，都重复以下处理，即，新指定相对于更新步骤中使用的N个矢量的末尾的矢量处于满足给定的关系的位置的矢量来执行学习步骤的处理。处于满足给定的关系的位置的矢量是从被指定的矢量起至少2个以上后的矢量。

主权项

一种循环神经网络RNN的学习方法，是使用预先准备的学习数据由计算机进行的RNN的学习方法，所述学习数据包含各自由学习对象数据的特征量和参考值构成的矢量的序列，所述学习方法包含：将所述RNN初始化的步骤；第1指定步骤，将所述矢量的序列内的某矢量指定为学习开始位置；和学习步骤，将所述RNN的各参数最佳化，以使得针对所述学习数据计算的给定的误差函数最小化，由此进行所述RNN的学习，所述学习步骤包含：更新步骤，使用所述矢量的序列当中的以被指定的矢量为开头的连续的N个矢量，通过将该连续的N个矢量的末尾的矢量的参考值设为正解标签的Truncated BPTT来进行所述RNN的参数的更新，其中，N是3以上的整数，第1重复步骤，直到预先确定的结束条件成立为止，都重复以下处理，即，新指定相对于所述更新步骤中使用的所述N个矢量的末尾的矢量处于满足给定的关系的位置的矢量来执行所述学习步骤的处理，处于满足所述给定的关系的位置的矢量是从所述进行选择的步骤中的所述被指定的矢量起至少2个以上后的矢量。