[发明专利]基于非易失性存储器的紧凑型混合信号乘法累加引擎

说明书

本发明公开一种乘法累加方法和架构。该架构包括布置在平铺列中的非易失性存储器元件的多个网络。逻辑以数字方式调节该多个网络中的单独网络的等效电导以将每个单独网络的该等效电导映射到神经网络内的单个权重。该神经网络内的第一部分选集的权重被映射到这些列中的这些网络的这些等效电导中，以使得能够通过混合信号计算来计算乘法和累加运算。该逻辑更新这些映射以选择第二部分选集的权重来计算另外的乘法和累加运算，并且重复这些映射和这些计算运算，直到针对该神经网络的所有计算完成。

背景技术

本公开整体涉及机器学习加速器，并且更具体地涉及用于提高机器学习操作的效率的混合信号乘法累加引擎。

基于非易失性存储器(NVM)的交叉架构提供用于在机器学习算法(特别是神经网络)中执行乘法累加(MAC)运算的另选机制。使用NVM位单元的混合信号方法依赖于欧姆定律，以通过利用新兴的NVM技术(例如，相变存储器(PCM)、电阻式随机存取存储器(RRAM)、关联电子随机存取存储器(CeRAM)等)的电阻性质来实施乘法运算。跨NVM位单元施加电压偏置生成与NVM元件的电导和跨单元的电压偏置的乘积成比例的电流。

接着可并行地添加来自多个此类位单元的电流以实施累加和。因此，欧姆定律和基尔霍夫电流定律的组合并行地实施多个MAC运算。当在数字域中使用显式乘法器和加法器实施时，这些可能是能量密集的。

根据本公开，提供了改进的NVM交叉架构，这些改进的NVM交叉架构提供模拟计算运算的能量高效加速，同时减少已知方法中固有的伴随的面积和产出影响。

附图说明

本公开以举例的方式例示并且不限制在附图中，其中相同的附图标号指示类似的元件，并且在附图中：

图1A和图1B描绘神经网络的高级表示；

图2是卷积神经网络的单层内的卷积运算的图示；

图3是用于使用NVM交叉结构执行卷积运算的架构的描绘；

图4是根据本公开的实施方案的用于使用电导以数字方式对权重进行编码的示意性电路；并且

图5是根据本公开的实施方案的乘法累加引擎的架构。

具体实施方式

现在将关于附图详细描述本公开的具体实施方案。为了说明的简单和清晰，在被视为适当的情况下，可在附图中重复附图标号以指示对应的或类似的元件。另外，阐述了许多具体细节以便提供对本文所述的示例的透彻理解。然而，本领域普通技术人员将理解，本文所述的示例可在没有这些具体细节的情况下实践。在其它情况下，未详细描述熟知的方法、程序和部件以免模糊本文所述的示例。而且，本说明书不应被视为限制本文所述的示例的范围。

应当理解，本文所用的示例和对应图仅用于说明性目的。在不脱离本文表达的原理的情况下，可使用不同的配置和术语。例如，在不脱离这些原理的情况下，可以不同的连接添加、删除、修改或布置部件和模块。

在本公开的实施方案的以下详细描述中，阐述了许多具体细节以便提供对本公开的更加透彻的理解。然而，对于本领域的技术人员显而易见的是，可在没有这些具体细节的情况下实践本公开。在其它情况下，未详细描述熟知的特征以避免不必要地使本说明书复杂化。

应当理解，本文所用的术语是出于描述根据本公开的各种实施方案的目的，并且不旨在是限制性的。如本文所用，术语“一个(a/an)”被定义为一个或多于一个。如本文所用，术语“多个”被定义为两个或多于两个。如本文所用，术语“另一个”被定义为至少第二个或更多个。如本文所用，术语“包括”和/或“具有”被定义为包括(即，开放式语言)。如本文所用，术语“耦接”被定义为连接，但未必直接地并且未必机械地连接。术语“提供”在本文中以其最广泛的含义定义，例如，整体或者同时或在一定时段内以多个部分开始成为/变为物理存在、变得可用和/或向某人或某物供应。