[发明专利]具有动态可编程分配方案的高带宽存储器系统

权利要求书

1.一种系统，包括：

多个存储器单元，其中，所述多个存储器单元中的每一个存储器单元包括请求处理单元和多个存储体；和

耦合到所述多个存储器单元的处理器，其中，所述处理器包括多个处理元件和将所述多个处理元件通信连接到所述多个存储器单元的通信网络，并且其中，所述多个处理元件中的至少第一处理元件包括控制逻辑单元和矩阵计算引擎，所述控制逻辑单元被配置为使用动态可编程分配方案访问来自所述多个存储器单元的数据。

2.根据权利要求1所述的系统，其中，所述多个存储器单元中的每一个存储器单元的请求处理单元被配置成接收广播的存储器请求。

3.根据权利要求2所述的系统，其中，所述广播的存储器请求引用存储在所述多个存储器单元中的每一个存储器单元中的数据。

4.根据权利要求3所述的系统，其中，所述多个存储器单元中的每一个存储器单元的请求处理单元被配置成将所述广播的存储器请求分解成相应的多个部分请求。

5.根据权利要求4所述的系统，其中，所述多个存储器单元中的每一个存储器单元的请求处理单元被配置成确定所述相应的多个部分请求中的每一个部分请求是否对应于存储在所述多个存储体中的与相应的请求处理单元相关联的相应存储体中的数据。

6.根据权利要求4所述的系统，其中，所述多个存储器单元中的每一个存储器单元的请求处理单元被配置成提供与所述相应的多个部分请求中的不同的部分请求相关联的部分响应。

7.根据权利要求6所述的系统，其中，所述第一处理元件的所述控制逻辑单元被配置成接收所述部分响应并组合所述部分响应以生成对所述广播的存储器请求的完整响应。

8.根据权利要求7所述的系统，其中，所述部分响应中的每一个部分响应包括用于排序所述部分响应的相应序列标识符。

9.根据权利要求7所述的系统，其中，所述完整响应存储在所述第一处理元件的本地存储器中。

10.根据权利要求1所述的系统，其中，所述多个存储器单元包括北存储器单元、东存储器单元、南存储器单元和西存储器单元。

11.根据权利要求1所述的系统，其中，所述动态可编程分配方案利用与所述第一处理元件的工作负荷相关联的标识符。

12.根据权利要求11所述的系统，其中，所述多个处理元件中的两个或更多个处理元件共享所述标识符。

13.根据权利要求1所述的系统，其中，所述多个处理元件中的第二处理元件与所述第一处理元件相比，被配置有用于访问存储器单元的不同的动态可编程分配方案。

14.根据权利要求1所述的系统，其中，所述第一处理元件的所述控制逻辑单元还被配置有用于在所述多个存储器单元之间分配数据的访问单位大小。

15.根据权利要求1所述的系统，其中，使用所述动态可编程分配方案将机器学习权重矩阵的数据元素分配在所述多个存储器单元上。

16.一种方法，包括：

接收与工作负荷相关联的存储器配置设置；

创建包括工作负荷标识符的存储器访问请求；

向多个存储器单元广播所述存储器访问请求；

接收与所述存储器访问请求相关联的多个部分响应；和

组合所述多个部分响应以创建对所述存储器访问请求的完整响应。

17.根据权利要求16所述的方法，还包括接收访问单位大小配置设置。