[发明专利]基于Cortex-M处理器的循环神经网络加速方法、系统和介质

说明书

本申请涉及一种基于Cortex‑M处理器的循环神经网络加速方法、系统和介质，其中，该方法包括：根据循环神经网络的共性基础算子设置MCR指令和CDP指令，其中，共性基础算子包括矩阵乘法算子、向量运算算子、Sigmoid激活算子、Tanh激活算子和量化算子；通过MCR指令对循环神经网络协处理器的内部寄存器进行配置；基于配置好的内部寄存器，通过CDP指令启动所述循环神经网络的共性基础算子，通过本申请，解决了循环神经网络算法在处理器执行中的低效、高成本和不灵活的问题，实现了通过协处理器指令集执行循环神经网络所需要的基础算子，对于算法多变的应用领域可降低重构硬件的成本，降低了系统的功耗和成本。

技术领域

本申请涉及深度学习技术领域，特别是涉及基于Cortex-M处理器的循环神经网络加速方法、系统和介质。

背景技术

随着科学技术的不断创新，新的人工智能算法层出不穷，它们大大提高了社会的生产效率，便捷了人们的日常生活。作为人工智能网络结构之一，循环神经网络在自然语言处理(Natural Language Processing,NLP)，如语音识别、语言建模、文本翻译等领域有着重要的应用，同时也常被用于各类时间序列预测，如天气预报、股票预测等。相较于卷积神经网络侧重于空间上的扩展，即所有的输入(包括输出)之间是相互独立的，循环神经网络侧重在时间上的扩张，即能挖掘数据中的时序信息和语义信息，每一个输出都在一定程度上依赖于先前的计算结果。循环神经网络中的基础运算包括矩阵乘法、向量乘、向量加、Sigmoid激活和Tanh激活。

现有技术方案中有将待处理数据发送至云端，待运算完后再将结果返回用户端，它的大致工作流程包括边缘侧数据采集、边缘侧数据发送、云端数据接收、云端数据处理、云端数据发送、边缘侧数据接收等步骤；也有直接使用高性能MCU的处理器直接处理这些运算或是设计专用的硬件加速器。但是云端与边缘端的协同处理存在着数据传输的带宽问题，时效性低；高性能MCU使用成本高；针对特定算法制定的硬件加速器结构固定、不灵活。

目前针对相关技术中循环神经网络算法在处理器执行中的低效、高成本和不灵活的问题，尚未提出有效的解决方案。

发明内容

本申请实施例提供了一种基于Cortex-M处理器的循环神经网络加速方法、系统和介质，以至少解决相关技术中循环神经网络算法在处理器执行中的低效、高成本和不灵活的问题。

第一方面，本申请实施例提供了一种基于Cortex-M处理器的循环神经网络加速方法，所述方法包括：

根据循环神经网络的共性基础算子设置MCR指令和CDP指令，其中，所述共性基础算子包括矩阵乘法算子、向量运算算子、Sigmoid激活算子、Tanh激活算子和量化算子；

通过所述MCR指令对循环神经网络协处理器的内部寄存器进行配置；

基于配置好的所述内部寄存器，通过所述CDP指令启动所述循环神经网络的共性基础算子。

在其中一些实施例中，通过所述MCR指令对循环神经网络协处理器的内部寄存器进行配置包括：

通过第一MCR指令，配置权重数据的本地缓存地址到第一寄存器，配置特征数据的本地缓存地址到第二寄存器，配置跨步块信息到尺度寄存器，配置运算模式和写回精度到控制寄存器；

通过第二MCR指令，配置第一向量组的本地缓存地址到第一寄存器，配置第二向量组的本地缓存地址到第二寄存器，配置写回信息的本地缓存地址到第三寄存器，配置跨步块信息到尺度寄存器；

通过第三MCR指令，配置输入数据的本地缓存地址到第一寄存器，配置写回信息的本地缓存地址到第二寄存器，配置跨步块信息到尺度寄存器。

在其中一些实施例中，在通过所述第一MCR指令对循环神经网络协处理器的内部寄存器进行配置之后，所述方法还包括：