[发明专利]基于回归模型的不确定性估计方法和装置在审

专利信息
申请号: 202011612532.2 申请日: 2020-12-30
公开(公告)号: CN112613617A 公开(公告)日: 2021-04-06
发明(设计)人: 周杰;鲁继文;李万华 申请(专利权)人: 清华大学
主分类号: G06N20/00 分类号: G06N20/00;G06N3/04;G06F17/15
代理公司: 北京清亦华知识产权代理事务所(普通合伙) 11201 代理人: 王萌
地址: 10008*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 回归 模型 不确定性 估计 方法 装置
【说明书】:

本申请提出一种基于回归模型的不确定性估计方法和装置,涉及机器学习技术领域,其中,方法包括:获取输入样本,并提取输入样本的概率分布特征;其中,输入样本具有标签值;从概率分布特征中采样T个特征;其中T为正整数;获取T个特征对应的T个损失函数,并对T个损失函数进行处理,获取训练损失函数;将输入样本输入回归模型进行处理,获取预测值,并通过训练损失函数根据标签值和预测值对回归模型的参数进行调整,获取已训练回归模型,以使将待处理数据输入已训练回归模型,获取回归结果和目标值。由此,可以给出每一个测试数据的不确定性,即目标值,同时在建模不确定性中有效提高了回归结果的准确性,得到一个性能更好的回归模型。

技术领域

本申请涉及机器学习技术领域,尤其涉及一种基于回归模型的不确定性估计方法和装置。

背景技术

通常,回归问题要求常常要求对于一个给定的数据x预测一个对应的目标值y。回归问题是一个基础的机器学习问题。

现有的方法大多基于深度神经网络来解决这一问题,通常而言,一个深度神经网络用来对数据x提取特征,随后一个回归器用来对提取后的特征回归具体数值。常见的回归策略大体可以分为三类:基于直接回归的方法,基于分类的方法,和基于序的方法。基于直接回归的方法直接使用回归器预测目标值,在训练过程中使用L1或者L2损失函数来进行训练。基于分类的方法将回归问题转换为分类问题,首先将目标空间划分为若干个子类别,然后使用回归器来进行分类任务的学习。基于序的方法使用若干个二元分类器来实现回归器,每个二元分类器负责预测一个二元分类问题。这些方法都是大多都基于神经网络实现,而神经网络往往倾向于给出过度自信的预测。

在实际场景中,除了需要模型给出预测值,往往也需要知道该预测值的置信度。诸如在自动驾驶中预测前方目标的距离,回归器可以给出预测结果,但是也需要知道在多大程度上可以信赖这一预测结果。不考虑置信度而直接采纳模型给出的全部预测结果是十分危险的。实际上我们不应当采纳低置信度的预测结果。因此,在进行模型学习的同时,也需要知道模型的不确定性是多少,也就是说,需要知道模型对每一个数据给出的预测结果以及对该预测结果的不确定性。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此,本申请的第一个目的在于提出一种基于回归模型的不确定性估计方法,可以给出每一个测试数据的不确定性,即目标值,同时在建模不确定性中有效提高了回归结果的准确性,得到一个性能更好的回归模型。

本申请的第二个目的在于提出一种基于回归模型的不确定性估计装置。

为达上述目的,本申请第一方面实施例提出了一种基于回归模型的不确定性估计方法,包括:

获取输入样本,并提取所述输入样本的概率分布特征;其中,所述输入样本具有标签值;

从所述概率分布特征中采样T个特征;其中所述T为正整数;

获取所述T个特征对应的T个损失函数,并对所述T个损失函数进行处理,获取训练损失函数;

将所述输入样本输入回归模型进行处理,获取预测值,并通过所述训练损失函数根据所述标签值和所述预测值对所述回归模型的参数进行调整,获取已训练回归模型,以使将待处理数据输入所述已训练回归模型,获取回归结果和目标值。

本申请实施例的基于回归模型的不确定性估计方法,通过获取输入样本,并提取输入样本的概率分布特征;其中,输入样本具有标签值;从概率分布特征中采样T个特征;其中T为正整数;获取T个特征对应的T个损失函数,并对T个损失函数进行处理,获取训练损失函数;将输入样本输入回归模型进行处理,获取预测值,并通过训练损失函数根据标签值和预测值对回归模型的参数进行调整,获取已训练回归模型,以使将待处理数据输入已训练回归模型,获取回归结果和目标值。由此,可以给出每一个测试数据的不确定性,即目标值,同时在建模不确定性中有效提高了回归结果的准确性,得到一个性能更好的回归模型。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011612532.2/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top