[发明专利]一种用于执行RMSprop梯度下降算法的装置及方法

摘要

本公开提供了一种用于执行RMSprop梯度下降算法的装置及方法，该装置包括直接内存访问单元、指令缓存单元、控制器单元、数据缓存单元、数据处理模块。该方法包括：首先读取梯度向量以及待更新值向量，同时初始化一个均方向量；每次迭代时，首先利用梯度向量更新均方向量，然后，利用均方向量计算出更新时对应的梯度下降量，更新待更新参数向量，重复此过程，直至待更新向量收敛。在整个过程中，均方向量一直存储在数据缓存单元中。利用本公开，可以实现RMSprop梯度下降算法的应用，并大幅度提高数据处理的效率。

主权项

一种用于执行RMSprop梯度下降算法的装置，其特征在于，该装置包括直接内存访问单元(1)、指令缓存单元(2)、控制器单元(3)、数据缓存单元(4)、数据处理模块(5)，其中：直接内存访问单元(1)，用于访问外部指定空间，向指令缓存单元(2)和数据处理模块(5)读写数据，完成数据的加载和存储；指令缓存单元(2)，用于通过直接内存访问单元(1)读取指令，并缓存读取的指令；控制器单元(3)，用于从指令缓存单元(2)中读取指令，将读取的指令译码为控制直接内存访问单元(1)、数据缓存单元(4)或数据处理模块(5)行为的微指令；数据缓存单元(4)，用于在初始化及数据更新过程中缓存均方矩阵；数据处理模块(5)，用于更新均方向量和待更新参数，并将更新后的均方向量写入到数据缓存单元(4)中，将更新后的待更新参数通过直接内存访问单元(1)写入到外部指定空间中。