[发明专利]人工神经网络调整方法和装置在审
| 申请号： | 201810608259.2 | 申请日： | 2018-06-13 |
| 公开（公告）号： | CN110598723A | 公开（公告）日： | 2019-12-20 |
| 发明（设计）人： | 高梓桁 | 申请（专利权）人： | 北京深鉴智能科技有限公司 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62 |
| 代理公司： | 11452 北京展翼知识产权代理事务所(特殊普通合伙) | 代理人： | 张阳 |
| 地址： | 100083 北京市海淀*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 特征中心 损失函数 人工神经网络 方法和装置 分类结果 分类器 归一化 连接层 区分度 分类 | ||
1.一种人工神经网络(ANN)调整方法，其中所述ANN的最后一个全连接层是用于分类的分类器并且该层的归一化权值表示各类的特征中心，所述方法包括：
以对所述特征中心的夹角进行约束的第一损失函数对所述ANN进行调整；
在使得各个特征中心的夹角分布趋于均匀的情况下完成对所述ANN的训练。
2.如权利要求1所述的方法，所述方法包括：
以使用第一损失函数对所述ANN进行调整之前，使用第二损失函数对所述ANN进行训练以确定各类的初始特征中心。
3.如权利要求1所述的方法，其中，对所述特征中心的夹角进行的约束包括：
对每个特征中心和相邻两个特征中心之间的夹角取平均作为该特征中心的特征中心角；以及
使得所有的特征中心角趋向于相等，且方差尽可能为零。
4.如权利要求3所述的方法，其中，所述特征中心角需要大于预定阈值。
5.如权利要求1所述的方法，其中，对所述特征中心的夹角进行约束的第一损失函数是softmax损失函数。
6.如权利要求1所述的方法，还包括；
使用不加约束的第三损失函数与第一损失函数对所述ANN进行联合调整。
7.如权利要求6所述的方法，其中，所述第一损失函数和第三损失函数在所述ANN的调整过程中被赋予不同的权重。
8.如权利要求6所述的方法，其中，所述第一损失函数的权重随着迭代的加深逐渐增大。
9.如权利要求1所述的方法，其中，所述第一损失函数的损失约束的权重随着迭代的加深逐渐增大。
10.如权利要求1所述的方法，其中，输入所述ANN的训练数据是各类数据分布不等的非平衡数据集。
11.如权利要求1所述的方法，其中，所述ANN网络是人脸识别神经网络。
12.一种人工神经网络(ANN)调整装置，其中所述人工神经网络的最后一个全连接层是用于分类的分类器并且该层的归一化权值表示各类的特征中心，所述装置包括：
夹角调整装置，用于以对所述特征中心的夹角进行约束的第一损失函数对所述ANN进行调整；
迭代装置，用于在使得各个特征中心的夹角分布趋于均匀的情况下完成对所述ANN的训练。
13.如权利要求12所述的装置，所述装置包括：
初始训练装置，用于以使用第一损失函数对所述ANN进行调整之前，使用第二损失函数对所述ANN进行训练以确定各类的初始特征中心。
14.如权利要求12所述的装置，其中，对所述特征中心的夹角进行的约束包括：
对每个特征中心和相邻两个特征中心之间的夹角取平均作为该特征中心的特征中心角；以及
使得所有的特征中心角趋向于相等，且方差尽可能为零。
15.如权利要求12所述的装置，还包括；
联合调整装置，用于使用不加约束的第三损失函数与第一损失函数对所述ANN进行联合调整。
16.如权利要求15所述的装置，其中，所述第一损失函数和第三损失函数在所述联合调整装置对所述ANN的调整过程中被赋予不同的权重。
17.如权利要求15所述的装置，其中，所述迭代装置使得所述第一损失函数的权重随着迭代的加深逐渐增大。
18.如权利要求12所述的装置，其中，所述迭代装置使得所述第一损失函数的损失约束的权重随着迭代的加深逐渐增大。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京深鉴智能科技有限公司，未经北京深鉴智能科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201810608259.2/1.html，转载请声明来源钻瓜专利网。
