[发明专利]用于辨识装置的人工神经网络正规化系统有效
申请号: | 201910376478.7 | 申请日: | 2019-05-07 |
公开(公告)号: | CN111914984B | 公开(公告)日: | 2023-10-27 |
发明(设计)人: | 刘子瑄;谢明得 | 申请(专利权)人: | 财团法人成大研究发展基金会;奇景光电股份有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/08;G06V10/764;G06V10/82 |
代理公司: | 北京中原华和知识产权代理有限责任公司 11019 | 代理人: | 寿宁;张琳 |
地址: | 中国台湾*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 辨识 装置 人工 神经网络 正规化 系统 | ||
本发明公开了一种用于辨识装置的人工神经网络正规化系统,包含输入层,产生影像的初始特征图;多个隐藏层,对初始特征图进行卷积以产生对象特征图;匹配单元,其接收对象特征图且执行匹配,以输出辨识结果。第一推论区块与第二推论区块,设于人工神经网络的至少一个隐藏层中。在第一模式,开启第一推论区块且关闭第二推论区块,其中第一推论区块仅接收前一层的第一推论区块的输出。在第二模式,开启第一推论区块与第二推论区块,其中第二推论区块接收前一层的第二推论区块的输出与前一层的第一推论区块的输出。
技术领域
本发明涉及一种人工神经网络正规化系统,特别是涉及一种用于辨识装置的人工神经网络正规化系统或对象辨识架构。
背景技术
卷积神经网络(convolutional neural network,CNN)是深层(deep)神经网络的一种,其使用卷积层以过滤输入,以得到有用信息。卷积层的滤波器可根据所学习参数进行修改,以萃取得到特定工作的最有用信息。卷积神经网络普遍用于分类(classification)、侦测及辨识(recognition),例如影像分类、医学影像分析及影像/视讯辨识。然而,卷积神经网络的推论(inference)需要大量的内存及运算。一般来说,卷积神经网络的模型准确度越高,则架构越复杂(即,更多内存与运算)且功耗越大。
当低功率终端(end)装置(例如全时传感器(always-on-sensor,AOS))越发展,则低复杂度的卷积神经网络的需求越大。然而,低复杂度的卷积神经网络由于受到功率的限制,无法达到高复杂度的卷积神经网络的高效能。受控于高效能的协处理器的全时传感器,配合低复杂度的卷积神经网络,可持续侦测简单对象,直到主处理器配合高复杂度的卷积神经网络被启动为止。因此,系统需要储存两个卷积神经网络模型(即,低复杂度模型与高复杂度模型),因而需要更多高成本的静态随机存取内存(SRAM)装置。
发明内容
鉴于上述,本发明实施例的目的之一在于提出一种人工神经网络正规化系统,可支持多个模式以降低功耗。
本发明实施例提出一种用于辨识装置的人工神经网络正规化系统,包含输入层、多个隐藏层及匹配单元。输入层产生影像的初始特征图。隐藏层对初始特征图进行卷积以产生对象特征图。匹配单元接收对象特征图且执行匹配,以输出辨识结果。第一推论区块与第二推论区块,设于人工神经网络的至少一个隐藏层中。在第一模式,开启第一推论区块且关闭第二推论区块,其中第一推论区块仅接收前一层的第一推论区块的输出。在第二模式,开启第一推论区块与第二推论区块,其中第二推论区块接收前一层的第二推论区块的输出与前一层的第一推论区块的输出。
进一步地,在该第二模式,其中该第一推论区块仅接收前一层的第一推论区块的输出。
进一步地,在该第二模式,其中该第一推论区块接收前一层的第一推论区块的输出与前一层的第二推论区块的输出。
进一步地,用于辨识装置的人工神经网络正规化系统,还包含第三推论区块,设于该至少一个隐藏层中,该第三推论区块包含多个第三滤波器。
进一步地,该第三推论区块在该第一模式与该第二模式时为关闭,且于第三模式时为开启。
进一步地,该匹配单元包含脸部匹配单元,用以决定是否辨识出特定脸部。
本发明实施例的用于追踪装置的人工神经网络正规化系统,能够根据实际需求可操作于高精确模式或低功率模式,得以大量减少实施人工神经网络所需的静态随机存取内存(SRAM)装置,并且当人工神经网络正规化系统在操作于低功率模式时,能够有效地降低消耗。
附图说明
图1示出了本发明实施例的用于辨识装置的卷积神经网络(CNN)正规化系统的示意图;
图2示出了本发明一实施例的多阶段训练方法的流程图,可使用于图1所示的卷积神经网络正规化系统;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于财团法人成大研究发展基金会;奇景光电股份有限公司,未经财团法人成大研究发展基金会;奇景光电股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910376478.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:视频分段方法和视频分段装置
- 下一篇:图片可视化编辑方法、装置、设备和介质