[发明专利]一种基于申威平台的基础线性代数库BLAS三级函数GEMM的高性能实现方法

摘要

本发明提出了一种基于申威平台的基础线性代数库BLAS三级函数GEMM的高性能实现方法，针对国产申威SW1600平台，采用“interface接口‑driver驱动‑kernel汇编核心代码”的三层代码设计框架，使用乘加指令、循环展开、软件流水线指令重排、SIMD向量化运算、寄存器分块技术等与平台架构相关的技术手段，实现汇编级手工优化，解决了编译器针对计算密集型函数GEMM优化不足的问题，大幅提升函数性能，与开源BLAS数学库GotoBLAS相较，平均加速比为4.72，最高加速比为5.61。

主权项

1.一种基于申威平台的基础线性代数库BLAS三级函数GEMM的高性能实现方法，其特征在于：基于申威SW1600平台的一个CPU进行设计，采用interface接口层函数‑driver驱动层函数‑kernel汇编核心层函数的三层代码设计框架，支持两个矩阵A、B各自为转置或非转置多种情况，框架内部调用关系为interface‑driver‑kernel，具体实现如下：(1)interface接口层函数：该层为函数接口，负责输入参数检查，判断矩阵规模参数是否合法，当输入参数不合法时返回错误码；判断两个输入矩阵A、B的转置情况，依据不同情况调用对应的driver驱动层函数；(2)driver驱动层函数：由interface接口层函数调用，并调用下层的kernel汇编核心层函数；该driver驱动层函数负责矩阵数据重排，以适应kernel汇编核心层函数的寄存器分块情况，计算过程包含矩阵的N维和M维两重嵌套循环，在N维循环内进行输入矩阵B重排，在M维循环内进行输入矩阵A重排，保证kernel汇编核心层函数连续从cache中获取数据，以减少cache不命中的情况，提高性能；(3)kernel汇编核心层函数：为底层核心层函数，由driver驱动层函数调用，负责实际计算的高性能实现；kernel汇编核心层函数基于申威SW1600的扩展ALPHA架构指令集，使用256位的SIMD向量化运算与乘加指令提高计算性能；基于该平台的ALPHA架构特征，使用F0至F31共32个浮点向量寄存器，采用寄存器分块策略进行算法设计；利用GEMM的计算密集型特性，手工实现汇编级的循环展开与指令重排，使用计算指令掩盖访存延迟，保证CPU利用率；使用乘加指令、循环展开、软件流水线指令重排、SIMD向量化运算、寄存器分块技术、矩阵分块与数据重排的技术手段，大幅提升函数性能。