[发明专利]一种基于忆阻器的深度神经网络

说明书

本发明公开了一种基于忆阻器的深度神经网络，包括若干基于BN层的忆阻卷积层，所述忆阻卷积层包括忆阻交叉阵列、DAC模块、ADC模块、与门、放大器、第一二极管、第二二极管、第一电阻、第二电阻、第三电阻、第四电阻和第五电阻。本发明在忆阻器实现的深度神经网络中，不仅实现了BN层的功能，加快了网络的训练速度，提高了网络的泛化能力，降低了梯度弥散，使得使用忆阻器构建更深层的神经网络更加容易；同时，还将BN层与CNN层相结合，降低了电路的复杂度以及功耗。

技术领域

本发明属于神经网络技术领域，特别是涉及一种基于忆阻器的深度神经网络。

背景技术

在深度神经网络中批量标准化（BN,Batch Normalization）层是一种典型的处理层，可以加快网络的训练速度，增加网络的泛化能力，改善梯度弥散的问题。然而目前基于忆阻器实现的BN层，都是孤立的，没有与CNN（卷积层）层相互结合。

发明内容

本发明的目的在于克服现有技术的不足，提供一种基于忆阻器的深度神经网络。

本发明的目的是通过以下技术方案来实现的：一种基于忆阻器的深度神经网络，包括若干基于BN层的忆阻卷积层，所述忆阻卷积层包括忆阻交叉阵列、DAC模块、ADC模块、与门、放大器、第一二极管、第二二极管、第一电阻、第二电阻、第三电阻、第四电阻和第五电阻；

所述忆阻交叉阵列的输入端与DAC模块的输出端连接，所述忆阻交叉阵列的第一输出端经与门与第一电阻的第一端连接，所述忆阻交叉阵列的第二输出端与第二电阻的第一端连接，所述第一电阻的第二端和第二电阻的第二端均与放大器的正输入端连接，所述放大器的负输入端经第三电阻接地，所述放大器的负输入端经第四电阻与放大器的输出端连接，所述放大器的输出端与第一二极管的阳极连接，所述第一二极管的阴极与第五电阻的第一端连接，所述第五电阻的第二端与ADC模块的输入端和第二二极管的阳极连接，所述第二二极管的阴极接参考电压。

优选的，基于忆阻器的深度神经网络还包括输入层、最大池化层、平均池化层、全连接层、softmax层和分类输出层，所述输入层、忆阻卷积层、全连接层、softmax层和分类输出层依次设置，最后一个忆阻卷积层后面紧跟一个平均池化层，其余每个忆阻卷积层后面均紧跟一个最大池化层。

本发明的有益效果是：本发明在忆阻器实现的深度神经网络中，不仅实现了BN层的功能，而且还将BN层与CNN层相结合，降低了电路的复杂度以及功耗。

附图说明

图1为本发明中基于忆阻器构建的BN层的电路图；

图2为本发明中基于此BN层的忆阻卷积层的电路图；

图3为本发明中深度神经网络的一种结构；

图4为本发明的深度神经网络的一种效果图；

图5为基于忆阻器的图像分类网络预测过程功耗图；

图6为基于本发明的图像分类网络写入过程功耗图。

具体实施方式

下面将结合实施例，对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有付出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

参阅图1-6，本发明提供一种基于忆阻器的深度神经网络：