[发明专利]针对人工神经网络的相关性分数指派有效
申请号: | 201580080124.8 | 申请日: | 2015-03-20 |
公开(公告)号: | CN107636693B | 公开(公告)日: | 2022-01-11 |
发明(设计)人: | 塞巴斯蒂安·拉普希金;沃耶西·萨梅克;克劳斯-罗伯特·穆勒;亚历山大·宾德;格雷格里·蒙塔翁 | 申请(专利权)人: | 弗劳恩霍夫应用研究促进协会;柏林技术大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 罗松梅 |
地址: | 德国*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 针对 人工 神经网络 相关性 分数 指派 | ||
1.一种用于数据处理的系统(100),包括:
用于将相关性分数指派给项目的集合的指派装置(50),以及
用于处理项目的集合(16)或通过根据相关性分数适配处理而从项目的集合导出的待处理的数据(106)的处理装置(102),
其中,所述相关性分数指示关于将由神经元(12)组成的人工神经网络(10)应用到项目(42)的集合(16)上以将项目(42)的集合(16)映射到网络输出(18)上的相关性,所述指派装置被配置为:
通过将从网络输出(18)导出的初始相关性分数R反向传播通过所述人工神经网络(10)来将所述初始相关性分数R重新分布到项目(42)的集合(16)上,以获得每个项目的相关性分数,
其中,所述指派装置被配置为通过以下方式执行所述反向传播:使得针对每个神经元,使用分布函数将相应神经元的下游邻居神经元集合的初步重新分布的相关性分数分布到该相应神经元的上游邻居神经元集合,
其中,项目的集合(16)是以下各项或其组合:
图片,其中项目(42)的集合(16)中的每个项目(42)对应于所述图片的像素或子像素中的一个或多个,和/或
视频,其中项目(42)的集合(16)中的每个项目(42)对应于所述视频的图片的一个或多个像素或子像素、所述视频的图片或所述视频的图片序列,和/或
音频信号,其中项目(42)的集合(16)中的每个项目(42)对应于所述音频信号的一个或多个音频样本,和/或
局部特征的特征图或从图片、视频或音频信号局部或全局提取的变换,其中项目(42)的集合(16)中的所述项目(42)对应于局部特征,和/或
文本,其中项目(42)的集合(16)中的所述项目(42)对应于文本的词、句子或段落,和/或
关系图,其中项目(42)的集合(16)中的所述项目(42)对应于节点或边缘或节点集合或边缘集合或子图形,
其中所述处理是:
数据压缩,并且所述处理装置被配置为:与指派有较低相关性分数的项目相比,降低对指派有较高相关性分数的项目的数据压缩的损失,或者
通过从存储器读取或执行进一步测量进行的数据补充,其中所述处理装置(102)被配置为根据相关性分数关注所述数据补充或所述进一步测量。
2.一种优化人工神经网络的系统(120),所述人工神经网络由神经元(12)组成并且包括网络输出(18),所述系统包括:
用于将相关性分数指派给项目的集合的第一装置,所述相关性分数指示关于将所述人工神经网络(10)应用到项目(42)的集合(16)上以将项目(42)的集合(16)映射到所述网络输出(18)上的相关性,其中,所述项目的集合(16)是图片,其中项目(42)的集合(16)中的每个项目(42)对应于所述图片的像素或子像素中的一个或多个,并且所述网络输出(18)是分类决定,其中所述第一装置被配置为:
通过将从网络输出(18)导出的初始相关性分数R反向传播通过所述人工神经网络(10)来将所述初始相关性分数R重新分布到项目(42)的集合(16)上,以获得每个项目的相关性分数,
其中,所述第一装置被配置为执行反向传播,使得针对每个神经元,使用分布函数将相应神经元的下游邻居神经元集合的初步重新分布的相关性分数分布到所述相应神经元的上游邻居神经元集合,
其中,所述系统还包括:
用于将所述第一装置应用到项目的多个不同集合上的第二装置(122),以及
第三装置(124),用于在将所述第一装置应用到项目的多个不同集合上期间,通过累积指派给人工神经网络的神经元的相关性分数据来检测人工神经网络中相关性增加(128)的部分,并且用于根据相关性增加的所述部分,通过忽略人工神经网络(10)的神经元(12)的一些互连,来优化人工神经网络。
3.根据权利要求1或2所述的系统,其中,所述指派装置被配置为使得所述分布函数具有相关性守恒属性。
4.根据权利要求1或2所述的系统,其中,所述指派装置被配置为通过对所述人工神经网络的所有神经元均等地使用一个分布函数来执行所述反向传播。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于弗劳恩霍夫应用研究促进协会;柏林技术大学,未经弗劳恩霍夫应用研究促进协会;柏林技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201580080124.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:机动两轮车用轮胎胎面花纹结构
- 下一篇:一种新型六边形钢丝圈贴合用三角胶芯