[发明专利]基于人工神经网络数据局部性的人工神经网络存储器系统

权利要求书

1.一种人工神经网络存储器系统，其包括：

至少一个处理器，其被配置为产生对应于人工神经网络操作的数据访问请求；和

至少一个人工神经网络存储器控制器，其被配置为依次记录所述数据访问请求以生成所述人工神经网络操作的人工神经网络数据局部性模式，以及

基于所述人工神经网络数据局部性模式，生成预测由所述至少一个处理器生成的所述数据访问请求的下一数据访问请求的提前数据访问请求。

2.根据权利要求1所述的人工神经网络存储器系统，其中，所述至少一个人工神经网络存储器控制器还被配置为基于所述人工神经网络数据局部性模式依次生成所述提前数据访问请求。

3.根据权利要求1所述的人工神经网络存储器系统，其中，所述至少一个人工神经网络存储器控制器被配置为在生成所述下一数据访问请求之前生成所述提前数据访问请求。

4.根据权利要求1所述的人工神经网络存储器系统，其中，所述数据访问请求还被配置为包括所述存储器的起始地址和连续数据读取触发器。

5.根据权利要求1所述的人工神经网络存储器系统，其中，当所述至少一个处理器产生所述下一数据访问请求时，所述至少一个人工神经网络存储器控制器被配置为确定所述提前数据访问请求和所述下一数据访问请求是否是相同的请求。

6.根据权利要求1所述的人工神经网络存储器系统，其中，所述人工神经网络数据局部性模式由具有重复循环特性的存储器地址构成。

7.根据权利要求1所述的人工神经网络存储器系统，其中，所述至少一个人工神经网络存储器控制器被配置为存储所述人工神经网络数据局部性模式的更新模式和先前模式，以确定人工神经网络模型是否改变。

8.根据权利要求1所述的人工神经网络存储器系统，其中，所述至少一个人工神经网络存储器控制器被配置为确定所述数据访问请求是一个人工神经网络模型的请求还是多个人工神经网络模型的请求的混合。

9.根据权利要求1所述的人工神经网络存储器系统，其中，当存在多个人工神经网络模型时，所述至少一个人工神经网络存储器控制器进一步被配置为：

生成与人工神经网络模型的数量相对应的人工神经网络数据局部性模式，以及

基于所述人工神经网络数据局部性模式生成相应的提前数据访问请求。

10.根据权利要求1所述的人工神经网络存储器系统，其还包括：

至少一个存储器，其被配置为与所述至少一个人工神经网络存储器控制器通信，

其中，所述至少一个存储器被配置为响应于从所述至少一个人工神经网络存储器控制器输出的存储器访问请求而操作。

11.根据权利要求10所述的人工神经网络存储器系统，其中，所述至少一个人工神经网络存储器控制器还被配置为包括高速缓冲存储器，所述高速缓冲存储器被配置为存储响应于所述存储器访问请求而从至少一个存储器发送的数据。

12.根据权利要求11所述的人工神经网络存储器系统，其中，所述至少一个人工神经网络存储器控制器被配置为基于所述高速缓冲存储器的剩余容量依次生成所述存储器访问请求中的至少一个以最小化所述高速缓冲存储器的所述剩余容量。

13.根据权利要求10所述的人工神经网络存储器系统，其中，所述至少一个人工神经网络存储器控制器被配置为测量响应于所述存储器访问请求的所述至少一个存储器的有效带宽。