[发明专利]用于创建神经网络的方法、装置和计算机程序在审
申请号: | 202080029390.9 | 申请日: | 2020-04-08 |
公开(公告)号: | CN113646775A | 公开(公告)日: | 2021-11-12 |
发明(设计)人: | F·胡特尔;Y·马拉奇;T·赛基亚;A·泽拉;T·布洛克斯 | 申请(专利权)人: | 罗伯特·博世有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N5/00;G06N7/00 |
代理公司: | 中国专利代理(香港)有限公司 72001 | 代理人: | 杜荔南;刘春元 |
地址: | 德国斯*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 创建 神经网络 方法 装置 计算机 程序 | ||
1.一种用于创建、尤其是自动化地创建神经网络(40)的方法,所述神经网络包括编码器,所述编码器与解码器连接,其中所述方法具有如下步骤:
- 分别提供所述编码器和所述解码器的输入参量和输出参量的分辨率;
- 提供不同的单元类型,
其中每个单元类型都包括多个节点,所述多个节点按可预先给定的顺序开始于至少一个输入节点并且结束于输出节点地连接,
其中每个节点都借助于有向边与它之前的所有节点连接,
其中每条边都分配有多个可参数化的运算( )并且所有运算分别分配有第一参量(α),
其中所述边被设立为:分别借助于被分配给先前节点的中间参量的运算中的每个运算来处理所述中间参量并且根据被分配给相应的运算的第一参量(α)来对所述中间参量进行加权相加并且将所述中间参量提供给下一个连接的节点作为所述节点的中间参量,
其中第一单元类型(英文reduction cell(归约单元))被设立为使其输出参量的分辨率相对于其输入参量的分辨率降低,
其中第二单元类型(英文upsampling cell(上采样单元))被设立为使其输出参量的分辨率相对于其输入参量的分辨率提高;
- 将不同的单元类型的多个单元串在一起,使得所提供的分辨率被实现,
其中所述单元的输入节点分别与紧挨着的上一单元的输出节点连接;
- 提供训练数据,所述训练数据包括训练输入参量和分别被分配给所述训练输入参量的训练输出参量;
- 使所述第一参量(α)和对可参数化的运算(o)的参数化(w)交替适配,
其中所述适配进行为使得借助于所述训练输入参量沿着串在一起的单元的传播所确定的输出参量与训练输出参量之差被优化;
- 根据经适配的第一参量(α),分别选择所述边的运算之一;
- 根据串在一起的单元和所选择的运算来创建所述神经网络(40)。
2.根据权利要求1所述的方法,其中所述第二单元类型还被设立为:尤其是借助于可参数化的运算,对所述输入节点的输入参量进行插值。
3.根据权利要求1或2中任一项所述的方法,其中所述第二单元类型附加地具有第二输入节点,
其中所述第二单元类型还被设立为:尤其是借助于可参数化的运算,对所述第二输入节点的输入参量进行插值,而且
其中在将多个单元串在一起的情况下,所述第二单元类型的单元的第二输入节点与所述第二单元类型的上一单元的输出端连接。
4.根据上述权利要求中任一项所述的方法,其中所述神经网络(40)具有至少一个跨接连接(英文skip connection(跨接连接)),所述跨接连接将所述编码器的中间参量转发给所述解码器,
其中所述第二单元类型附加地具有第三输入节点,并且所述第二单元类型还被设立为:尤其是借助于可参数化的运算,对所述第三输入节点的输入参量进行插值,而且
其中在将多个单元串在一起的情况下,所述第三输入节点与第一类型的单元之一的输出节点连接。
5.根据上述权利要求中任一项所述的方法,其中第三单元类型被设立为处理所述第三单元类型的输入参量,使得所述第三单元类型的输入参量的分辨率对应于所述第三单元类型的输出参量的分辨率,
其中在将多个单元串在一起的情况下,至少在第一或第二单元类型的单元之一之间插入第三类型的单元。
6.根据上述权利要求中任一项所述的方法,其中所述训练数据被分成第一训练数据集合(D_train)和第二训练数据集合(D_val),
其中所述参数化(w)通过所述第一训练数据集合(D_train)来被优化,而且所述第一参量(α)通过所述第二训练数据集合(D_val)来被优化。
7.根据上述权利要求中任一项所述的方法,其中每个第一参量(α)都取决于相应的边的另一运算的另一第一参量(α),尤其是借助于softmax函数来被松弛,
其中在选择运算时,分别选择分配有最大的第一参量(α)的边的运算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于罗伯特·博世有限公司,未经罗伯特·博世有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202080029390.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:具有抽油烟机设备和灶台的组合设备
- 下一篇:紧固件、紧固件组件及其部件