[发明专利]具有深度学习神经网络的非易失性存储器管芯

说明书

本发明题为“具有深度学习神经网络的非易失性存储器管芯”。提供了用于使用例如管芯内的阵列下电路部件来实现非易失性存储器(NVM)装置的管芯内的深度学习加速器(DLA)或其他神经网络部件的示例性方法和装置。本文所公开的一些方面涉及配置阵列下部件以实现前馈DLA操作。其他方面涉及反向传播操作。其他方面涉及使用具有更新函数的基于NAND的芯片上拷贝以便于更新存储在管芯上的神经网络的突触权重。本文所公开的其他方面涉及配置固态设备(SSD)控制器以与NVM一起使用。在一些方面中，SSD控制器包括闪存转换层(FTL)表，该闪存转换层(FTL)表被专门配置用于与存储在NVM中的神经网络数据一起使用。

相关申请的交叉引用

本专利申请涉及2018年12月6日提交的名称为“NON-VOLATILE MEMORY DIE WITHDEEP LEARNING NEURAL NETWORK”(具有深度学习神经网络的非易失性存储器管芯)的美国专利申请号16/212,596(代理人案卷号WDT-1279US2(WDA-3863*B-US))，该专利申请的内容全文以引用方式并入本文。本专利申请涉及2018年12月6日提交的名称为“NON-VOLATILEMEMORY DIE WITH DEEP LEARNING NEURAL NETWORK”(具有深度学习神经网络的非易失性存储器管芯)的美国专利申请号16,212,586(代理人案卷号WDT-1279US1(WDA-3863*A-US))，该专利申请的内容全文以引用方式并入本文。

技术领域

在一些实施方案中，本公开涉及非易失性存储器(NVM)阵列并且涉及与其一起使用的数据存储控制器。更具体地但非排他性地，本公开涉及用于在数据存储控制器的控制下在NVM管芯内实现深度学习神经网络的方法和装置。

背景技术

深度学习(也可称为深度结构化学习或分层学习)涉及基于学习数据表示或架构(诸如深度神经网络(DNN))的机器学习方法，而不是涉及任务特定的规程或算法。深度学习应用于诸如语音识别、计算机视觉和自动驾驶车辆(self-driving vehicle)的领域。深度学习可通过深度学习加速器(DLA)(例如，被设计成加速生成有用的神经网络以实现深度学习的微处理器设备)来实现或促进。

发明内容

下文呈现了对本公开的一些方面的简要概述，以提供对这些方面的基本理解。该概述并不是对本公开的所有设想特征的广泛概述，并且既不旨在标识本公开的所有方面的关键或重要元素，也不旨在描绘本公开的任何或所有方面的范围。其唯一目的是以简化形式呈现本公开的一些方面的各种概念，以作为稍后呈现的更详细描述的序言。

本公开的一个实施方案提供了一种装置，该装置包括：管芯，该管芯包括非易失性存储器(NVM)元件，该非易失性存储器元件形成在管芯中并且被配置为将神经网络突触权重值存储在多个字线内；以及多个神经网络处理部件，该多个神经网络处理部件形成在该管芯中并且被配置为从字线并行地访问突触权重值并且使用突触权重值并行地执行神经网络操作。

本公开的另一个实施方案提供了一种方法，该方法包括：将神经网络的神经网络突触权重值存储在管芯的NVM元件的多个字线内；从NVM元件的字线并行感测多个神经网络突触权重值；以及使用感测的神经网络突触权重值并行地执行神经网络操作，其中神经网络操作由在管芯内形成的多个神经网络处理部件并行地执行。

本公开的又一个实施方案提供了一种装置，该装置包括：用于将神经网络的神经网络突触权重值存储在装置的管芯的非易失性存储器(NVM)元件内的装置，其中突触权重值在多个字线内的管芯的NVM元件内；用于使用在管芯内形成的突触权重值访问部件从字线并行访问突触权重值的装置；用于输入神经网络输入数据的装置；以及用于使用神经网络输入数据和由用于访问的装置访问的突触权重值并行地执行神经网络操作的装置，其中用于并行地执行神经网络操作的装置包括在管芯内形成的多个神经网络处理部件。