[发明专利]可执行人工智能运算的存储器芯片及其操作方法

权利要求书

1.一种可执行人工智能运算的存储器芯片，包括：

一存储器阵列，包括多个存储器区域，其中所述多个存储器区域用以储存一数字化输入数据以及一权重数据；

一存储器控制器，经由专属于人工智能引擎的一总线来耦接至所述存储器阵列；以及

一人工智能引擎，耦接所述存储器控制器，并且用以经由所述存储器控制器以及所述总线来存取所述多个存储器区域，以取得所述数字化输入数据以及所述权重数据，

其中所述人工智能引擎依据所述数字化输入数据以及所述权重数据来执行一神经网络运算，

其中所述多个存储器区域包括多个数据缓冲区，并且所述人工智能引擎以及一外部处理器交替地存取所述多个数据缓冲区，以使当所述人工智能引擎存取所述多个数据缓冲区的其中一个的所述数字化输入数据时，所述外部处理器同时存取所述多个数据缓冲区的其中另一个的另一数字化输入数据，

其中所述总线的一总线宽度大于或等于所述多个存储器区域各自的多个存储器库的各自的一整行的数据数，

其中所述权重数据的多个权重值或一特征图数据的多个特征值依据列、库、行组合编码的地址的顺序来依序储存在所述多个存储器区域各自的多个存储器库当中，并且所述人工智能引擎依序且交错地读取所述多个存储器区域各自的所述多个存储器库的每一行，以依序取得所述权重数据的所述多个权重值或所述特征图数据的所述多个特征值。

2.如权利要求1所述的存储器芯片，其中所述人工智能引擎包括一第一快取单元，并且所述人工智能引擎藉由所述第一快取单元来预先读取所述多个存储器区域的多个数据缓冲区的其中一个的所述数字化输入数据。

3.如权利要求1所述的存储器芯片，其中所述多个存储器区域包括一权重数据区，并且所述人工智能引擎依序且交错地读取所述权重数据区的多个存储器库，以取得所述权重数据。

4.如权利要求3所述的存储器芯片，其中所述人工智能引擎包括一第二快取单元，并且所述第二快取单元的多个快取线用以预先管线式地读取所述多个存储器库的所述权重数据，

其中所述人工智能引擎将储存在所述第二快取单元的所述多个快取线的所述权重数据依序读出，以执行所述神经网络运算。

5.如权利要求1所述的存储器芯片，其中所述多个存储器区域包括两个特征图数据区，并且所述人工智能引擎轮替地存取所述两个特征图数据区，

其中所述人工智能引擎以轮替地从所述两个特征图数据区的其中一个的多个存储器库读取一特征图数据，并且储存所述人工智能引擎在进行所述神经网络运算的过程中所产生的另一特征图数据至所述两个特征图数据区的其中另一个的多个存储器库。

6.如权利要求5所述的存储器芯片，其中所述人工智能引擎包括一第三快取单元，并且所述第三快取单元的多个快取线用以预先管线式地读取所述两个特征图数据区的其中一个的所述多个存储器库的所述特征图数据，

其中所述人工智能引擎将储存在所述第三快取单元的所述多个快取线的所述特征图数据依序读出，以执行所述神经网络运算。

7.如权利要求6所述的存储器芯片，其中所述人工智能引擎包括一第四快取单元，并且所述第四快取单元的多个快取线用以预先储存所述人工智能引擎在进行所述神经网络运算的过程中所产生的所述另一特征图数据，

其中所述人工智能引擎以管线式地将储存在所述第四快取单元的所述多个快取线的所述特征图数据依序读出，并储存至所述两个特征图数据区的其中另一个的所述多个存储器库。