[发明专利]一种描述特征定义域的度量指标、拟合模型及其训练方法在审
申请号: | 202011427414.4 | 申请日: | 2020-12-09 |
公开(公告)号: | CN112465121A | 公开(公告)日: | 2021-03-09 |
发明(设计)人: | 钱鹏 | 申请(专利权)人: | 钱鹏;左宗胜;李旭辉 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 210001 江苏省南京市秦淮区*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 描述 特征 定义域 度量 指标 拟合 模型 及其 训练 方法 | ||
1.一种损失函数,其特征在于:softabs(x, b)=(x^2+b^2)^0.5 -b,其中x是残差,b0是超参数。
2.一种根据训练样本判断特征空间中的任一点处于定义域中的可信程度的指标(称为存在度指标),其特征在于:第一,取值介于0到1之间,0为开端点,1为闭端点;第二,到训练样本中任一样本点距离很近的点,取值趋于1;第三,到训练样本中最近样本点的距离越远,取值越趋于0;第四,其它点的取值在前两种点的取值之间平滑过渡。
3.一种对存在度指标进行拟合的模型(称为存在度模型),其特征在于:步骤一,把训练样本中的每个点映射到一个向量空间(称为承载空间)中的一个球面(称为承载球面)上,该映射称为承载函数,由一种可微模型拟合得到;步骤二,对承载函数的拟合模型施加约束,驱使特征空间中的其他点尽量远离承载球面;步骤三,对一个测试点,根据其到承载球面的距离计算该点的存在度指标。
4.按权利要求3所述的承载空间,其特征在于:承载空间的维度大于目标问题的流形维度。
5.按权利要求3所述的承载空间,其特征在于:承载空间的维度大于目标问题的特征空间的维度。
6.按权利要求3所述的承载球面,其特征在于:承载球面的球心位于承载空间的原点。
7.按权利要求3所述的承载球面,其特征在于:承载球面的半径取值∈[0.1,1]。
8.按权利要求3所述的驱使其他点远离承载球面的约束,其特征在于:在训练样本中的每个样本点上施加以下约束:约束一,承载函数的曲面与承载球面趋于相切,即承载函数的各个方向切向量与样本点到球心的向量趋于垂直;约束二,承载函数的各个方向切向量的长度趋于增大;约束三,承载函数的各个方向切向量之间两两趋于垂直。
9.按权利要求3所述的驱使其他点远离承载球面的约束,其特征在于:承载函数的拟合模型在每一处都趋于平滑。
10.按权利要求3所述的承载函数的拟合模型,其特征在于:模型几乎处处可微,即:把定义域去掉一个勒贝格测度为零的子集后,满足“处处可微”。
11.按权利要求10所述的几乎处处可微的模型,其特征在于:是一种人工神经网络。
12.按权利要求11所述的人工神经网络,其特征在于:神经元的激活函数使用ReLU系列激活函数。
13.按权利要求12所述的ReLU系列激活函数,其特征在于:是Dynamic ReLU激活函数。
14.按权利要求11所述的人工神经网络,其特征在于:是一种多层感知机。
15.按权利要求11所述的人工神经网络,其特征在于:对权重参数施加L2正则项,以便满足权利要求9的约束。
16.按权利要求3所述的根据测试点到承载球面的距离计算存在度指标的方法,其特征在于:步骤一,根据承载空间的一种范数,计算测试点到球心的距离;步骤二,把到球心的距离与球面的半径相比较,代入一种损失函数,计算损失值(称为球面距离损失);步骤三,把球面距离损失的值代入信息熵的逆运算,计算存在度指标。
17.按权利要求16所述的承载空间的一种范数,其特征在于:是L2范数。
18.按权利要求16所述的球面距离损失函数,其特征在于:是L2损失函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于钱鹏;左宗胜;李旭辉,未经钱鹏;左宗胜;李旭辉许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011427414.4/1.html,转载请声明来源钻瓜专利网。