[发明专利]中文句子相似性判别方法、装置、计算机设备和存储介质在审
申请号: | 202110959210.3 | 申请日: | 2021-08-20 |
公开(公告)号: | CN113673225A | 公开(公告)日: | 2021-11-19 |
发明(设计)人: | 张翀;何春辉;葛斌;胡升泽;赵翔;肖卫东 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06F40/216 | 分类号: | G06F40/216;G06F40/211;G06K9/62;G06N3/04 |
代理公司: | 长沙国科天河知识产权代理有限公司 43225 | 代理人: | 徐志宏 |
地址: | 410073 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 中文 句子 相似性 判别 方法 装置 计算机 设备 存储 介质 | ||
1.一种中文句子相似性判别方法,其特征在于,所述方法包括:
获取中文句子对,并且对所述中文句子对进行拼接,得到拼接文本;
通过预训练的结合多头注意力机制的BERT向量编码器对所述拼接文本进行编码,得到句对向量;
将所述句对向量输入预训练的全连接神经网络,输出所述中文句子对的相似标签和不相似标签;所述相似标签和所述不相似标签均对应概率值;
提取表征句子对之间相关性的多个相关性特征,将所述文本特征、所述相似标签和所述不相似标签进行拼接,得到融合特征;
将所述融合特征输入预先训练的分类器,输出中文句子对相似性判别结果。
2.根据权利要求1所述的方法,其特征在于,所述获取中文句子对,并且对所述中文句子对进行拼接,得到拼接文本,包括:
获取中文句子对,将句子对中句子S1和S2的每一个字用空格来切割,并且按照[CLS]S1[SEP]S2[SEP]的顺序依次完成句子对的拼接;其中,CLS表示句首标签,SEP表示句尾标签。
3.根据权利要求1所述的方法,其特征在于,所述BERT向量编码器为双向编码器;
所述通过预训练的结合多头注意力机制的BERT向量编码器对所述拼接文本进行编码,得到句对向量,包括:
通过预训练的双向编码器,结合多头注意力机制对所述拼接文本进行编码,得到句对向量。
4.根据权利要求1所述的方法,其特征在于,所述全连接神经网络包括:输入层、全连接层和softmax输出层;
将所述句对向量输入预训练的全连接神经网络,输出所述中文句子对的相似标签和不相似标签,包括:
将所述句对向量输入预训练的全连接神经网络的输入层,由所述全连接层对所述句对向量进行映射处理,得到1×2维向量;
通过softmax输出层对所述1×2维向量进行归一化,得到相似标签和不相似标签。
5.根据权利要求1至4任一项所述的方法,其特征在于,所述相关性特征包括:情感倾向一致性、句对文本长度差比率、句对文本相同字符覆盖率以及句对文本同义词覆盖率;
提取表征句子对之间相关性的多个相关性特征,将所述文本特征、所述相似标签和所述不相似标签进行拼接,得到融合特征,包括:
从中文句子对中提取表征句子对之间相关性的情感倾向一致性、句对文本长度差比率、句对文本相同字符覆盖率以及句对文本同义词覆盖率;
将情感倾向一致性、句对文本长度差比率、句对文本相同字符覆盖率、句对文本同义词覆盖率、所述相似标签和所述不相似标签进行拼接,得到融合特征。
6.根据权利要求5所述的方法,其特征在于,从中文句子对中提取表征句子对之间相关性的情感倾向一致性、句对文本长度差比率、句对文本相同字符覆盖率以及句对文本同义词覆盖率,包括:
从中文句子对中提取表征句子对之间相关性的情感倾向一致性为:
其中,SA表示情感倾向一致性;
从中文句子对中提取表征句子对之间相关性的句对文本长度差比率为:
其中,Len(A)和Len(B)表示中文句子对中两个句子的长度,LD表示句对文本长度差比率;
从中文句子对中提取表征句子对之间相关性的句对文本相同字符覆盖率为:
其中,T(A,B)表示中文句子对中两个句子相同的字符总数,SCC表示句对文本相同字符覆盖率;
从中文句子对中提取表征句子对之间相关性的句对文本同义词覆盖率为:
其中,SC表示句对文本同义词覆盖率。
7.根据权利要求1至4任一项所述的方法,其特征在于,所述分类器包括:贝叶斯模型或者随机森林模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110959210.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种新型结构辊式破碎机中置辊
- 下一篇:一种耳鼻口科用耳道内壁清理设备