[发明专利]用于运行人工神经网络的方法在审
申请号: | 201980019465.2 | 申请日: | 2019-01-03 |
公开(公告)号: | CN111886604A | 公开(公告)日: | 2020-11-03 |
发明(设计)人: | J·E·M·梅纳特;R·M·克勒;P·彼得里齐奥 | 申请(专利权)人: | 罗伯特·博世有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 永新专利商标代理有限公司 72002 | 代理人: | 侯鸣慧 |
地址: | 德国斯*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 运行 人工 神经网络 方法 | ||
1.一种用于运行人工神经网络(10)的方法,所述人工神经网络具有至少一个卷积层(12a-c),所述卷积层设置为用于,基于卷积运算和移位运算将所述卷积层(12a-c)的输入矩阵(I)转化为输出矩阵(A),所述方法具有以下步骤:
基于所述输入矩阵(I)的录入项和/或基于所述神经网络(10)的训练数据组求取至少一个第一归一化参量和第二归一化参量,
其特征在于,所述方法还具有以下步骤:
基于所述至少一个卷积层(12a-c)的原始过滤矩阵(f)并且基于所求取的第一归一化参量和第二归一化参量中的至少一个来求取修改后的过滤矩阵
基于所述至少一个卷积层(12a-c)的原始移位矩阵(b)并且基于所求取的第一归一化参量和第二归一化参量中的至少一个来求取修改后的移位矩阵
基于所述修改后的过滤矩阵和所述修改后的移位矩阵将所述输入矩阵(I)转化为所述输出矩阵(A)。
2.根据权利要求1所述的方法,其中,
所述第一归一化参量是与标准差(σ)相关的参量和/或是标准差;和/或
所述第二归一化参量是与平均值(μ)相关的参量和/或是平均值(μ)。
3.根据权利要求2所述的方法,其中,
基于所述至少一个卷积层(12a-c)的所述原始过滤矩阵(f)并且基于所求取的标准差(σ)求取所述修改后的过滤矩阵和/或
基于所述至少一个卷积层(12a-c)的所述原始移位矩阵(b)、基于所求取的标准差(σ)并且基于所求取的平均值(μ)求取所述修改后的移位矩阵
4.根据权利要求2或3中任一项所述的方法,其中,
所求取的平均值(μ)是所述输入矩阵(I)的录入项的平均值;和/或,
所求取的标准差(σ)是所述输入矩阵(I)的录入项的标准差。
5.根据权利要求2或3中任一项所述的方法,其中,
所述训练数据组具有多个训练数据元素,尤其是训练图像;
基于所述训练数据组的所述训练数据元素求取所述标准差(σ)和所述平均值(μ)。
6.根据以上权利要求中任一项所述的方法,其中,所述转化的步骤具有:
将所述输入矩阵(I)与所述修改后的过滤矩阵进行卷积;和
将所述修改后的移位矩阵与卷积后的输入矩阵(I)相加。
7.根据以上权利要求中任一项所述的方法,
其中,在所述修改后的过滤矩阵和所述修改后的移位矩阵中包含用于对所述输入矩阵(I)进行归一化的归一化运算。
8.根据权利要求2至7中任一项所述的方法,其中,求取所述修改后的过滤矩阵的步骤具有:
求出所述原始过滤矩阵(f)的录入项与所求取的标准差(σ)的比。
9.根据权利要求2至8中任一项所述的方法,其中,求取所述修改后的移位矩阵的步骤具有:
对所述修改后的过滤矩阵与归一化矩阵进行卷积,其中,所述归一化矩阵的所有录入项具有所求取的平均值(μ);和
从所述原始移位矩阵中减去与所述归一化矩阵卷积后的、修改后的过滤矩阵
10.根据权利要求2至9中任一项所述的方法,所述方法还具有:
通过给所述输入矩阵(I)添加录入项,将所述输入矩阵(I)转化为更高维度的输入矩阵其中,
如果所述神经网络是已训练的,则所添加的录入项分别具有所求取的平均值(μ);和/或
在所述神经网络训练期间,所添加的录入项分别具有零值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于罗伯特·博世有限公司,未经罗伯特·博世有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201980019465.2/1.html,转载请声明来源钻瓜专利网。