[发明专利]存储器装置中的并行存储器存取及计算

说明书

本申请案涉及存储器装置中的并行存储器存取及计算。本发明揭示一种囊封在集成电路IC封装内的IC存储器装置。所述存储器装置包含：第一存储器区，其经配置以存储操作数列表；第二存储器区，其经配置以存储依据所述操作数列表产生的结果列表；及至少一个第三存储器区。所述存储器装置的通信接口可从外部处理装置接收请求；且算术计算元件矩阵可并行存取所述存储器装置的存储器区。当所述算术计算元件矩阵正在处理所述第一存储器区中的所述操作数列表并产生所述第二存储器区中的所述结果列表时，所述外部处理装置可通过所述通信接口同时存取所述第三存储器区以将数据加载到所述第三存储器区中，或检索所述算术计算元件矩阵先前已产生的结果。

相关申请案

本申请案主张2018年10月12日提出申请且标题为“存储器装置中的并行存储器存取及计算(Parallel Memory Access and Computation in Memory Devices)”的美国专利申请案第16/158,593号的申请日期的权益，所述美国专利申请案的全部内容如充分陈述一般以引用的方式并入本文中。

本申请案涉及2018年10月12日提出申请且标题为“加速存取从存储在存储器装置中的数据产生的计算结果(Accelerated Access to Computations Results Generatedfrom Data Stored in Memory Devices)”的美国专利申请案第16/158,558号，所述美国专利申请案的全部揭示内容特此以引用方式并入本文中。

技术领域

本文中所揭示的至少一些实施例大体来说涉及存储器系统，且更确切来说但不限于加速存取从存储在存储器装置中的数据产生的计算结果。

背景技术

一些计算模型使用呈行向量、列向量及/或矩阵形式的大量数据的数值计算。举例来说，模型人工神经网络(ANN)的计算模型可涉及对来自行向量及列向量的元素进行求和及相乘。

用于人工智能(AI)推理(例如，识别以各种数据集(例如，传感器输入)形式捕获的事件、物体、图案)的人工神经网络受到越来越多的关注。

通常，人工神经网络(ANN)使用神经元网络来处理去往网络的输入且从所述网络产生输出。

举例来说，人工神经网络(ANN)中的每一神经元m可接收一组输入p_k，其中k＝1、2、…、n。通常，去往典型神经元m的输入p_k中的一些可以是网络中的某些其它神经元的输出，且去往神经元m的输入p_k中的一些可整体地输入到网络。网络中的神经元当中的输入/输出关系表示网络中的神经元连接性。

典型神经元m可具有偏倚b_m、激活函数f_m及分别针对其输入p_k的一组突触权重w_mk，其中k＝1、2、…、n。激活函数可呈阶跃函数、线性函数及双S形函数(log-sigmoidfunction)等形式。网络中的不同神经元可具有不同的激活函数。

典型神经元m产生其输入与其偏倚的加权和s_m，其中s_m＝b_m+w_m1×p₁+w_m2×p₂+…+w_mn×p_n。神经元m的输出a_m是加权和的激活函数，其中a_m＝f_m(s_m)。

ANN的输入与输出之间的关系通常是由ANN模型界定，所述ANN模型包含表示网络中的神经元的连接性的数据以及每一神经元m的偏倚b_m、激活函数f_m及突触权重w_mk。计算装置可用于基于给定ANN模型依据去往网络的一组给定输入来计算网络的输出。