[发明专利]一种结合属性信息的实体多分类方法有效
申请号: | 201910041484.7 | 申请日: | 2019-01-16 |
公开(公告)号: | CN109919175B | 公开(公告)日: | 2020-10-23 |
发明(设计)人: | 鲁伟明;陆海蛟;吴飞;庄越挺 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08;G06F40/295 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 刘静;邱启旺 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 结合 属性 信息 实体 分类 方法 | ||
1.一种结合属性信息的实体多分类方法,其特征在于,包括以下步骤:
(1)使用循环神经网络表示实体字符级别特征,使用平均编码器表示实体词汇级别初步特征;
(2)使用双向LSTM表示上下文初步特征,并结合上下文初步特征和实体词汇级别初步特征得到实体词汇级别的更新特征和最终特征,然后结合实体字符级别特征和实体词汇级别最终特征得到实体最终特征;
(3)使用实体感知的注意力机制得到上下文最终特征;
(4)使用Max-pooling方式表示实体的属性特征,并联合实体词汇级别的更新特征构建实体-属性的cosine相似度损失函数;
(5)融合步骤(2)得到的实体最终特征和步骤(3)得到的上下文最终特征实现实体多分类,并构建交叉熵损失函数,最后联合步骤(4)得到的实体-属性损失函数进行优化训练。
2.根据权利要求1所述的结合属性信息的实体多分类方法,其特征在于,所述步骤(1)包括以下子步骤:
1.1)对语料中所有字符c建立字符表Vc,使用随机初始化表示字符对应的向量,字符向量维度为dc,字符向量的映射函数uc表示为
1.2)使用循环神经网络RNN表示实体字符级别特征;设实体的字符序列表示echar=[c1,c2,…,cm],则字符级别特征为:
hi=f(Wcuc(ci)+Uchi-1)
ec=tanh(hm)
其中:ci、uc(ci)和hi分别表示i时刻的输入字符、字符的向量表示和隐层状态向量,m为实体的字符序列长度,Wc、Uc为RNN的权重矩阵,并将RNN最后一次输出的向量作为最终实体字符级别特征
1.3)设语料中所有词汇组成的词表为Vw,词向量维度为dw,词向量的映射函数u表示为设实体的词序列表示emention=[e1,e2,…,en],则词汇级别初步特征利用平均编码器表示如下:
其中:u(ei)表示第i个词汇的向量表示,n为实体的词汇序列长度;实体词汇级别初步特征
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910041484.7/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置