[发明专利]机器识别场景下的类别嵌入方法、装置、设备和可读介质在审
申请号: | 202310258564.4 | 申请日: | 2023-03-16 |
公开(公告)号: | CN116257783A | 公开(公告)日: | 2023-06-13 |
发明(设计)人: | 赵宇明;宋阳;陈蒙 | 申请(专利权)人: | 京东科技信息技术有限公司 |
主分类号: | G06F18/24 | 分类号: | G06F18/24;G06F18/25;G06F16/35;G06F40/242;G06N3/0464;G06N3/09;G06N3/088;G06N20/00 |
代理公司: | 北京律智知识产权代理有限公司 11438 | 代理人: | 孙宝海 |
地址: | 100176 北京市大兴区北京经*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 机器 识别 场景 类别 嵌入 方法 装置 设备 可读 介质 | ||
1.一种机器识别场景下的类别嵌入方法,其特征在于,包括:
响应于接收的分类任务,对语料进行学习以确定监督数据,所述监督数据具有概念表征;
对所述监督数据的样本分布进行最大似然估计;
基于胶囊网络中的动态路由算法确定所述最大似然估计的下界,并根据所述最大似然估计的下界确定分类模型的损失函数;
将所述监督数据输入至所述分类模型,以得到样本表征;
基于所述概念表征构建类别嵌入集合,并将所述样本表征与所述类别嵌入集合进行融合,以实现所述分类任务的类别嵌入。
2.如权利要求1所述的机器识别场景下的类别嵌入方法,其特征在于,响应于接收的分类任务,对语料进行学习以确定监督数据包括:
对多个指定领域的语料进行无监督任务学习和/或监督任务学习,以得到样本数据集,所述指定领域包括电商、金融、新闻、法律、计算机、电子、化学和生物钟的至少一种;
根据所述样本数据集确定正例样本和负例样本;
采用所述对比学习算法对所述正例样本和所述负例样本进行对比学习,以确定所述监督数据。
3.如权利要求2所述的机器识别场景下的类别嵌入方法,其特征在于,根据所述样本数据集确定正例样本和负例样本包括:
若所述样本数据集是经过所述无监督任务学习确定的,则通过两次dropout算法确定所述样本数据集中的正例样本;
将所述样本数据集内除所述正例样本外的其他样本确定为所述负例样本。
4.如权利要求2所述的机器识别场景下的类别嵌入方法,其特征在于,根据所述样本数据集确定正例样本和负例样本对所述监督数据的样本分布进行最大似然估计包括:
若所述样本数据集是经过所述监督任务学习确定的,则确定所述监督学习任务下的多个标签;
确定同一标签下的多个样本数据互为所述正例样本和所述负例样本。
5.如权利要求1所述的机器识别场景下的类别嵌入方法,其特征在于,对所述监督数据的样本分布进行最大似然估计包括:
对所述监督数据的对数进行似然估计计算,以确定样本分布;
引入概念变量作为隐变量,并对所述似然估计计算的结果进行最大化。
6.如权利要求5所述的机器识别场景下的类别嵌入方法,其特征在于,引入概念变量作为隐变量,并对所述似然估计计算的结果进行最大化包括:
引入所述概念变量作为隐变量,并对所述隐变量的样本分布进行推断;
根据推断结果确定所述隐变量分布的聚类中心;
通过所述动态路由算法将所述聚类中心确定为所述胶囊网络中的高层胶囊,并将所述隐变量分布中除聚类中心外的其他聚类样本确定为所述胶囊网络中的底层胶囊;
基于所述胶囊网络的迭代结果对所述似然估计计算的结果进行最大化。
7.如权利要求1-6中任一项所述的机器识别场景下的类别嵌入方法,其特征在于,基于所述概念表征构建类别嵌入集合,并将所述样本表征与所述类别嵌入集合进行融合,以实现所述分类任务的类别嵌入包括:
基于所述概念表征构建所述类别嵌入集合;通过所述动态路由算法将所述样本表征集合确定为所述胶囊网络的低层胶囊,将所述类别嵌入集合确定为所述胶囊网络的高层胶囊;
对所述样本表征和所述类别嵌入集合进行融合,以实现所述分类任务的类别嵌入。
8.一种机器识别场景下的类别嵌入装置,其特征在于,包括:
学习模块,设置为响应于接收的分类任务,对语料进行学习以确定监督数据,所述监督数据具有概念表征;
所述学习模块还设置为,对所述监督数据的样本分布进行最大似然估计;
确定模块,设置为基于胶囊网络中的动态路由算法确定所述最大似然估计的下界,并根据所述最大似然估计的下界确定分类模型的损失函数;
所述学习模块还设置为,将所述监督数据输入至所述分类模型,以得到样本表征;
嵌入模块,设置为基于所述概念表征构建类别嵌入集合,并将所述样本表征与所述类别嵌入集合进行融合,以实现所述分类任务的类别嵌入。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东科技信息技术有限公司,未经京东科技信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310258564.4/1.html,转载请声明来源钻瓜专利网。