[发明专利]张量卷积计算方法及系统

摘要

本发明提供一种张量卷积计算方法，包括：接收待计算的张量数据，调用预先设定的多个卷积核，应用各个卷积核组成运算卷积核；依据各个张量运算单元的运算能力对运算卷积核进行第一格式转换处理，然后装载至第一寄存器组；对张量数据进行第二格式转换处理，然后装载至第二寄存器组；选取目标滑动窗口，确定目标滑动窗口的窗口格式及目标窗口的步进步长；重复执行第一操作；当已执行的各个第一操作中分别选取的各个张量数据子集的总和为经过第二格式转换处理的张量数据时，停止执行第一操作，将已执行的各个第一操作中每个张量运算单元对应的部分积进行累加，确定完整运算结果。应用本发明提供的张量卷积计算方法，可实现高利用率的高密度并行计算。

主权项

1.一种张量卷积计算方法，其特征在于，所述方法应用于处理器，所述处理器中设置有多个张量运算单元，所述方法包括：/n接收待计算的张量数据；/n调用预先设定的各个卷积核，并应用所述预先设定的各个卷积核组成与所述待计算的张量数据对应的运算卷积核；/n依据各个所述张量运算单元的算力，对所述运算卷积核进行第一格式转换处理，并将经过第一格式转换处理的所述运算卷积核装载至预先建立的第一寄存器组；对所述待计算的张量数据进行第二格式转换处理，以使所述待计算的张量数据经过所述第二格式转换处理后，与所述经过第一格式转换处理的所述运算卷积核相匹配，并将经过所述第二格式转换处理的所述待计算的张量数据装载至预先建立的第二寄存器组；/n调用预设的编程指令，选取目标滑动窗口，并确定所述目标滑动窗口的窗口格式及所述目标滑动窗口的步进步长；所述目标滑动窗口的窗口格式包括所述目标滑动窗口的窗口维度及所述目标滑动窗口的元素容量；/n重复执行第一操作，所述第一操作包括：应用所述目标滑动窗口，按所述目标滑动窗口的步进步长，从所述第二寄存器组中的经过所述第二格式转换处理的所述待计算的张量数据中，选取多个张量数据子集；并依据每个所述张量运算单元的算力，从所述第一寄存器组中的经过所述第一格式转换处理的所述运算卷积核中，确定第一集合，所述第一集合中包括多个运算卷积核子集，所述多个运算卷积核子集与所述预先设定的各个卷积核一一对应，且每个所述运算卷积核子集属于与其对应的卷积核；为所述第一集合中的每个运算卷积核子集分配与其对应的张量运算单元组，每个所述张量运算单元组中包括多个张量运算单元，每个所述张量运算单元组中包含张量运算单元的个数相同；将所述第一集合中的每个运算卷积核子集分别发送至其对应的张量运算单元组中的每一个张量运算单元中，并将每个所述张量数据子集，分别发送至每个所述运算卷积核子集对应的张量运算单元组中的与该张量数据子集对应的张量运算单元中；在每个所述张量运算单元中，对该张量运算单元中的运算卷积核子集及张量数据子集进行点积运算，获得该张量运算单元对应的部分积；/n当已执行的各个第一操作中分别选取的各个张量数据子集的总和为经过第二格式转换处理的所述待计算的张量数据时，停止执行所述第一操作，将已执行的各个第一操作中每个张量运算单元对应的部分积进行累加，以确定所述待计算的张量数据与各个所述卷积核的运算结果；所述已执行的各个第一操作中每个所述卷积核为其对应的各个运算卷积核子集的总和；已执行的每个第一操作中，所有所述运算卷积核子集对应的张量运算单元组中的各个张量运算单元的总个数不大于所述处理器中张量运算单元的个数；所述已执行的每个所述第一操作中分别选取的各个张量数据子集各不相同。/n