[发明专利]用于人工神经网络的更稳健训练在审
申请号: | 202080049721.5 | 申请日: | 2020-06-17 |
公开(公告)号: | CN114072815A | 公开(公告)日: | 2022-02-18 |
发明(设计)人: | F·施密特;T·萨克塞 | 申请(专利权)人: | 罗伯特·博世有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 中国专利代理(香港)有限公司 72001 | 代理人: | 杜荔南;刘春元 |
地址: | 德国斯*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 人工 神经网络 稳健 训练 | ||
1.用于训练人工神经网络KNN(1)的方法(100),所述KNN包括多个处理单元(2),其中优化表征所述KNN(1)行为的参数(12)(110),目的是所述KNN(1)根据成本函数(16)将学习输入参量值(11a)尽可能好地映射为相关联的学习输出参量值(13a),其中将至少一个处理单元(2)的输出(2b)与随机值x相乘(112),并且然后作为输入(2a)输送到至少一个另外的处理单元(2')(113),其中以事先设定的概率密度函数(4a)从随机变量(4)中提取所述随机值x(111),其中所述概率密度函数(4a)与在|x-q|中随着|x-q|的增加而下降的指数函数成比例,其中q是可自由选择的位置参数,并且其中在所述指数函数的自变量中,|x-q|包含在幂|x-q|k中,其中k≤1。
2.根据权利要求1所述的方法(100),其中所述概率密度函数(4a)是拉普拉斯分布函数。
3.根据权利要求2所述的方法(100),其中所述拉普拉斯分布函数的概率密度由下式给出:
,其中且。
4.根据权利要求1至3中任一项所述的方法(100),其中所述KNN由多个层(3a-3c)构建,并且其中对于至少一层(3a-3c)中的处理单元(2),从同一个随机变量(4)中提取所述随机值x(111a)。
5.根据权利要求1至4中任一项所述的方法(100),其中
•在所述训练之后确定经过训练的KNN(1*)将验证输入参量值(11b)映射为相关联的验证输出参量值(13b)的准确度(14)(120),
•所述训练重复多次(130),每次都对所述参数(12)进行随机初始化(12a),
•将关于各个训练之后分别确定的准确度(14)的方差确定为所述训练的稳健性(15)的度量(140)。
6.根据权利要求5所述的方法(100),其中优化在所述指数函数中|x-q|的最大幂k或在所述拉普拉斯概率密度Lb(x)中的p值(150),目的是改进所述训练的稳健性(15)。
7.根据权利要求5至6中任一项所述的方法(100),其中优化表征所述KNN(1)体系架构的至少一个超参数(160),目的是改进所述训练的稳健性(15)。
8.根据权利要求1至7中任一项所述的方法(100),其中所述随机值x在所述KNN(1)的训练步骤期间分别保持恒定(111b),并且在训练步骤之间从所述随机变量(4)中重新提取(111c)。
9.根据权利要求1至8中任一项所述的方法(100),其中将所述KNN(1)构造为分类器和/或回归器。
10.用于训练和运行人工神经网络KNN(1)的方法(200),其中
•利用根据权利要求1至9中任一项所述的方法(100)训练所述KNN(1)(210);
•将测量数据作为输入参量值(11)输送给经过训练的KNN(1*)(220),所述测量数据通过物理测量过程和/或通过对这种测量过程的部分或完整仿真和/或通过对能利用这种测量过程观察的技术系统的部分或完整仿真而获得;
•根据由经过训练的KNN(1*)提供的输出参量值(13)形成操控信号(5);以及
•利用所述操控信号(5)来操控车辆(50)和/或分类系统(60)和/或用于对批量生产的产品进行质量控制的系统(70)和/或用于医学成像的系统(80)(230)。
11.具有参数(12)的参数集,所述参数(12)表征KNN(1)的行为,利用根据权利要求1至9中任一项所述的方法(100)获得。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于罗伯特·博世有限公司,未经罗伯特·博世有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202080049721.5/1.html,转载请声明来源钻瓜专利网。