[发明专利]确定神经网络的输出的方法、电子设备和计算机程序产品在审
申请号: | 202010340845.0 | 申请日: | 2020-04-26 |
公开(公告)号: | CN113554145A | 公开(公告)日: | 2021-10-26 |
发明(设计)人: | 倪嘉呈;刘金鹏;贾真;陈强 | 申请(专利权)人: | 伊姆西IP控股有限责任公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 黄倩 |
地址: | 美国马*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 确定 神经网络 输出 方法 电子设备 计算机 程序 产品 | ||
1.一种用于确定神经网络的输出的方法,包括:
获取由神经网络的至少一个隐藏层输出的特征向量、以及与所述神经网络的多个候选输出相关联的多个权重向量,所述多个候选输出的相应概率基于所述多个权重向量和所述特征向量来确定;
将所述多个权重向量分别转换成多个二进制序列,并且将所述特征向量转换成目标二进制序列;
从所述多个二进制序列中确定与所述目标二进制序列最相似的二进制序列;以及
基于所述二进制序列,从所述多个候选输出中确定所述神经网络的输出。
2.根据权利要求1所述的方法,其中所述多个权重向量包括第一权重向量,并且将所述多个权重向量分别转换成所述多个二进制序列包括:
对包括第一数目个权重值的所述第一权重向量进行归一化;
通过将经归一化的所述第一权重向量投影到具有第二数目个维度的空间中,来生成包括所述第二数目个投影值的第一投影向量,所述第二数目小于所述第一数目;以及
通过将所述第一投影向量中的每个投影值转换成二进制数,来生成与所述第一权重向量相对应的第一二进制序列。
3.根据权利要求2所述的方法,其中生成所述第一投影向量包括:
通过将投影矩阵与经归一化的所述第一权重向量相乘来生成所述第一投影向量,所述投影矩阵用于将具有所述第一数目个维度的向量投影到所述空间中。
4.根据权利要求3所述的方法,其中所述投影矩阵中的元素服从高斯分布。
5.根据权利要求2所述的方法,其中将所述第一投影向量中的每个投影值转换成二进制数包括:
如果所述投影值超过预定阈值,将所述投影值转换成第一二进制数;以及
如果所述投影值未超过所述预定阈值,将所述投影值转换成与所述第一二进制数不同的第二二进制数。
6.根据权利要求2所述的方法,其中将所述特征向量转换成目标二进制序列包括:
对包括所述第一数目个特征值的所述特征向量进行归一化;
通过将经归一化的所述特征向量投影到所述空间中来生成第二投影向量,所述第二投影向量包括所述第二数目个投影值;以及
通过将所述第二投影向量中的每个投影值转换成二进制数,来生成所述目标二进制序列。
7.根据权利要求1所述的方法,其中从所述多个二进制序列中确定与所述目标二进制序列最相似的所述二进制序列包括:
确定所述多个二进制序列中的每个二进制序列与所述目标二进制序列的欧式距离;以及
从所述多个二进制序列中确定与所述目标二进制序列具有最小欧式距离的所述二进制序列。
8.根据权利要求1所述的方法,其中从所述多个候选输出中确定所述神经网络的所述输出包括:
从所述多个权重向量中确定与所述二进制序列相对应的权重向量;以及
从所述多个候选输出中选择与所述权重向量相关联的候选输出,作为所述神经网络的所述输出。
9.根据权利要求1所述的方法,其中所述神经网络是部署在物联网设备中的深度神经网络。
10.一种电子设备,包括:
至少一个处理单元;
至少一个存储器,所述至少一个存储器被耦合到所述至少一个处理单元并且存储用于由所述至少一个处理单元执行的指令,所述指令当由所述至少一个处理单元执行时,使得所述电子设备执行动作,所述动作包括:
获取由神经网络的至少一个隐藏层输出的特征向量、以及与所述神经网络的多个候选输出相关联的多个权重向量,所述多个候选输出的相应概率基于所述多个权重向量和所述特征向量来确定;
将所述多个权重向量分别转换成多个二进制序列,并且将所述特征向量转换成目标二进制序列;
从所述多个二进制序列中确定与所述目标二进制序列最相似的二进制序列;以及
基于所述二进制序列,从所述多个候选输出中确定所述神经网络的输出。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于伊姆西IP控股有限责任公司,未经伊姆西IP控股有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010340845.0/1.html,转载请声明来源钻瓜专利网。