[发明专利]一种基于1T1R的卷积神经网络电路及其操作方法有效

专利信息
申请号: 201911032508.9 申请日: 2019-10-28
公开(公告)号: CN110852429B 公开(公告)日: 2022-02-18
发明(设计)人: 李祎;陈佳;缪向水 申请(专利权)人: 华中科技大学
主分类号: G06N3/063 分类号: G06N3/063;G06N3/08;G11C16/08;G11C16/24;G11C16/30
代理公司: 华中科技大学专利中心 42201 代理人: 李智
地址: 430074 湖北*** 国省代码: 湖北;42
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 t1r 卷积 神经网络 电路 及其 操作方法
【说明书】:

发明公开了一种基于1T1R的卷积神经网络及其操作方法,包括输入模块、卷积计算模块、池化计算模块、全连接计算模块,其中,卷积计算模块、池化计算模块、全连接计算模块均由1T1R阵列构成,能够原位存储突触权重信息,实现计算和存储的相融合,省去了数据交互的消耗,极大的缩短了计算时间,同时减少能耗。另外,本发明通过调控1T1R器件中晶体管的栅极电压实现双向渐变调整忆阻器电导值大小,可以使得在实现电导减小的过程中,无需将1T1R器件重新操作到最低电导状态,直接通过调整1T1R器件中晶体管的栅极电压,使电导减小即可达到目标电导,功耗较低。

技术领域

本发明属于人工神经网络技术领域,更具体地,涉及一种基于1T1R的卷积神经网络及其操作方法。

背景技术

随着大数据时代的到来,对传统计算体系的计算速度、功耗等方面的需求日益提高,冯·诺伊曼问题已经成为限制当前计算机体系进一步发展的重要瓶颈。忆阻器自提出以来,以其非易失、高集成、低功耗等特点,成为下一代半导体存储器极具前景的发展对象之一。忆阻器的计算存储相融合的特点也成为构建新型计算架构的有力基础。自忆阻器被提出可用于模拟人脑突触功能以后,基于忆阻器件突触器件的研究成为热门,并建立起基于忆阻突触器件的硬件神经网络实现研究。

神经网络在人工智能中是极其重要的运算模型,目的是利用数学模型模拟人脑神经系统的集体的、并行的计算能力。从二十世纪四十年代赫布型学习被提出开始发展至今,神经网络理论已经非常成熟。第一代神经网络,即感知器模型,作为一个简单的神经元模型,只能处理二进制数据;第二代神经网络,即目前应用广泛的人工神经网络,包括全连接多层神经网络,卷积神经网络等等,它们已经在当前很多领域已经实际应用。

在第二代神经网络中,卷积神经网络(Convolutional Neural Network, CNN)是一种广泛应用的深度学习算法模型,主要包括卷积层、池化层以及全连接层,被大量运用在图像识别、模式识别等任务中。卷积神经网络相比于全连接多层神经网络,大规模减少了突触权重的数量,降低了网络规模,减少了存储和计算量。这主要得益于:卷积层采用共享权重的方式,神经元与卷积核之间不会全连接,通过设定步长可以大大减小突出数量;而且,通常在卷积层之间会引入池化层,或称降采样层,减少图像的空间大小,可以进一步减少参数的数量,同时增加网络的鲁棒性。卷积神经网络的计算大部分为卷积运算,对于目前的计算系统来说,特别在卷积神经网络中,其卷积层和池化层存在大量中间计算数据需要存储和再读取计算,在处理器和存储器间的存在大量数据的传输,导致功耗和时间上的大量消耗的问题,即冯·诺依曼瓶颈。

目前,基于忆阻突触器件的神经网络发展迅速。但现有方法中,基于 1T1R突触器件的神经网络研究仍然存在以下问题:一,1T1R实现用以模拟突触权重调整的电导渐变特性的操作方法仍有限制。以上面提及的2018 年杨建华教授团队的工作为例,其电导渐变操作方法只实现在器件电导增加的过程,若想要实现电导减小,必须将器件重新操作到最低电导状态,以电导增加的操作方式达到目标电导。这样的操作方式会造成在网络进行权重更新时操作复杂度的增加,消耗大量额外的功耗。二,目前1T1R的神经网络应用还不够全面,大多数研究工作集中于全连接多层神经网络。

综上所述,提出一种功耗较小的基于1T1R的卷积神经网络及其操作方法是亟待解决的问题。

发明内容

针对现有技术的缺陷,本发明的目的在于提供了一种基于1T1R的卷积神经网络,旨在解决现有技术由于其电导渐变性存在限制,在实现电导减小时必须将器件重新操作到最低电导状态以电导增加的操作方式达到目标电导而导致的功耗较高的问题。

为实现上述目的,本发明一方面提供了一种基于1T1R的卷积神经网络,包括输入模块、卷积计算模块、池化计算模块、全连接计算模块;

其中,输入模块、卷积计算模块、池化计算模块及全连接计算模块依次串行相连;

输入模块用于将图像模式信息中各像素点的像素值转化为相应的电压脉冲幅值,对其进行时序编码,并滑动输入到卷积神经网络中;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911032508.9/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top