[发明专利]一种向量运算协处理方法与装置

说明书

本发明公开了一种向量运算协处理方法与装置包括：使总线接口通过处理核心的指令接口从处理核心接收运算指令并存储于指令缓存中；响应于指令缓存中存在未读取的运算指令，而使译码模块读取和解析运算指令，并将解析过的运算指令发送至向量处理模块；响应于向量处理模块接收到解析过的运算指令，而使向量处理模块根据运算指令中的向量地址和向量长度执行向量运算操作，并将操作结果回写到输入输出缓存；响应于输入输出缓存中存在未反馈的操作结果，而使总线接口从输入输出缓存通过处理核心的数据接口将操作结果反馈到处理核心。本发明能够使用协处理的方式利用RISC‑V指令集进行向量运算，降低成本和功耗、并延长硬件使用寿命。

技术领域

本发明涉及负载均衡领域，更具体地，特别是指一种向量运算协处理方法与装置。

背景技术

最近几年人工智能在各个领域开始普及开来，随着AI(人工智能)研究的兴起，AI技术特别是训练阶段对计算力的需求越来越高，而目前应用最广泛的AI算法是基于卷积神经网络的算法，该算法的基础最终可归纳为向量运算，包括向量的乘法运算和加法运算。RISC-V架构由美国加州大学伯克利分校的开发人员开发的一套新的指令集架构，并且是完全开源免费的，可以被任何学术机构或者商业组织自由使用。RISC-V指令集架构总结了多年来计算机体系结构的成熟技术，具备了后发优势，结构清晰而简单，模块化的设计可根据需要随意搭配，灵活方便，可移植性强，功耗很低，并且由于其BSD协议的开放性，越来越多的国家和企业投入到RSIC-V领域的研究。但RISC-V指令集占用资源较多，开发成本较高，而卷积神经网络等算法只对个别向量指令具有依赖，因此该向量指令集在进行卷积神经网络计算时使用效率不高。

针对现有技术中RISC-V指令集进行卷积神经网络的向量运算过于臃肿的问题，目前尚无有效的解决方案。

发明内容

有鉴于此，本发明实施例的目的在于提出一种向量运算协处理方法与装置，能够使用协处理的方式利用RISC-V指令集进行向量运算，降低成本和功耗、并延长硬件使用寿命。

基于上述目的，本发明实施例的第一方面提供了一种向量运算协处理方法，包括执行以下步骤：

使总线接口通过处理核心的指令接口从处理核心接收运算指令并存储于指令缓存中；

响应于指令缓存中存在未读取的运算指令，而使译码模块读取和解析运算指令，并将解析过的运算指令发送至向量处理模块；

响应于向量处理模块接收到解析过的运算指令，而使向量处理模块根据运算指令中的向量地址和向量长度执行向量运算操作，并将操作结果回写到输入输出缓存；

响应于输入输出缓存中存在未反馈的操作结果，而使总线接口从输入输出缓存通过处理核心的数据接口将操作结果反馈到处理核心。

在一些实施方式中，运算指令包括向量加载指令，向量处理模块包括向量加载模块；

使向量处理模块根据运算指令中的向量地址和向量长度执行向量运算操作包括：使向量加载模块根据向量加载指令中的向量地址和向量长度通过总线接口和处理核心的数据接口从处理核心中读取待加载的向量数据并回写到输入输出缓存。

在一些实施方式中，运算指令包括向量存储指令，向量处理模块包括向量存储模块；

使向量处理模块根据运算指令中的向量地址和向量长度执行向量运算操作包括：使向量存储模块根据向量存储指令中的向量地址和向量长度将输入输出缓存中的待存储的向量数据通过总线接口和处理核心的数据接口回写到处理核心。

在一些实施方式中，运算指令包括向量乘加指令，向量处理模块包括向量乘加模块；

使向量处理模块根据运算指令中的向量地址和向量长度执行向量运算操作包括：使向量乘加模块根据向量乘加指令中的向量地址和向量长度从输入输出缓存中读取待乘加的向量数据进行乘加，并将乘加后的向量数据回写到输入输出缓存。