[发明专利]基于Cortex-M处理器的循环神经网络加速方法、系统和介质在审
申请号: | 202111641429.5 | 申请日: | 2021-12-29 |
公开(公告)号: | CN114298293A | 公开(公告)日: | 2022-04-08 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 杭州万高科技股份有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06F9/38;G06F9/30;G06F9/302;G06F12/0877 |
代理公司: | 杭州创智卓英知识产权代理事务所(普通合伙) 33324 | 代理人: | 季健康 |
地址: | 310053 浙江省杭州市滨江区浦*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 cortex 处理器 循环 神经网络 加速 方法 系统 介质 | ||
1.一种基于Cortex-M处理器的循环神经网络加速方法,其特征在于,所述方法包括:
根据循环神经网络的共性基础算子设置MCR指令和CDP指令,其中,所述共性基础算子包括矩阵乘法算子、向量运算算子、Sigmoid激活算子、Tanh激活算子和量化算子;
通过所述MCR指令对循环神经网络协处理器的内部寄存器进行配置;
基于配置好的所述内部寄存器,通过所述CDP指令启动所述循环神经网络的共性基础算子。
2.根据权利要求1所述的方法,其特征在于,通过所述MCR指令对循环神经网络协处理器的内部寄存器进行配置包括:
通过第一MCR指令,配置权重数据的本地缓存地址到第一寄存器,配置特征数据的本地缓存地址到第二寄存器,配置跨步块信息到尺度寄存器,配置运算模式和写回精度到控制寄存器;
通过第二MCR指令,配置第一向量组的本地缓存地址到第一寄存器,配置第二向量组的本地缓存地址到第二寄存器,配置写回信息的本地缓存地址到第三寄存器,配置跨步块信息到尺度寄存器;
通过第三MCR指令,配置输入数据的本地缓存地址到第一寄存器,配置写回信息的本地缓存地址到第二寄存器,配置跨步块信息到尺度寄存器。
3.根据权利要求2所述的方法,其特征在于,在通过所述第一MCR指令对循环神经网络协处理器的内部寄存器进行配置之后,所述方法还包括:
通过所述CDP指令启动所述循环神经网络的矩阵乘法算子,根据所述跨步块信息对所述特征数据的矩阵进行分块,根据预设权重数量对所述权重数据的矩阵进行分块;
根据所述运算模式,对分块后的特征数据矩阵和权重数据矩阵进行对应的乘累加运算。
4.根据权利要求2所述的方法,其特征在于,在通过所述第二MCR指令对循环神经网络协处理器的内部寄存器进行配置之后,所述方法还包括:
通过所述CDP指令启动所述循环神经网络的向量运算算子,根据所述跨步块信息将所述第一向量组和所述第二向量组中的值逐个相加或相乘;
根据所述写回信息将运算结果写回本地缓存。
5.根据权利要求2所述的方法,其特征在于,在通过所述第三MCR指令对循环神经网络协处理器的内部寄存器进行配置之后,所述方法还包括:
通过所述CDP指令启动所述循环神经网络的Sigmoid激活算子,根据所述跨步块信息将所述输入数据输入到Sigmoid激活函数中,返回结果值,其中,e为数学中的自然常数,x为输入数据;
根据所述写回信息将所述结果值写回本地缓存。
6.根据权利要求2所述的方法,其特征在于,在通过所述第三MCR指令对循环神经网络协处理器的内部寄存器进行配置之后,所述方法还包括:
通过所述CDP指令启动所述循环神经网络的Tanh激活算子,根据所述跨步块信息将所述输入数据输入到Tanh激活函数中,返回结果值,其中,e为数学中的自然常数,x为输入数据;
根据所述写回信息将所述结果值写回本地缓存。
7.根据权利要求2所述的方法,其特征在于,在通过所述第三MCR指令对循环神经网络协处理器的内部寄存器进行配置之后,所述方法还包括:
通过所述CDP指令启动所述循环神经网络的量化算子,根据所述跨步块信息将所述输入数据中符合IEEE-754标准的32位单精度浮点数转化为16位整型数,或者将所述输入数据中的16位整型数转化为符合IEEE-754标准的32位单精度浮点数;
根据写回信息将转化结果写回本地缓存。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
通过第四MCR指令,配置主存地址到第一寄存器,配置本地缓存地址到第二寄存器,配置跨步块信息到尺度寄存器;
通过所述CDP指令启动数据读取操作,根据所述跨步块信息将所述主存地址中的数据读取到所述本地缓存中;
通过所述CDP指令启动数据写入操作,根据所述跨步块信息将所述本地缓存的数据写到所述主存地址中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州万高科技股份有限公司,未经杭州万高科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111641429.5/1.html,转载请声明来源钻瓜专利网。