[发明专利]一种基于知识增强和知识迁移的句子语义相关度判断方法在审
申请号: | 202011221328.8 | 申请日: | 2020-11-05 |
公开(公告)号: | CN112417884A | 公开(公告)日: | 2021-02-26 |
发明(设计)人: | 徐玲;苏锦钿 | 申请(专利权)人: | 广州平云信息科技有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/211;G06F40/237;G06N5/02 |
代理公司: | 广东省畅欣知识产权代理事务所(普通合伙) 44631 | 代理人: | 耿佳 |
地址: | 510000 广东省广州*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于知识增强和知识迁移的句子语义相关度判断方法,根据语料集中已标注的训练数据和验证数据构造相应的无监督训练语料,并利用该语料对预训练BERT进行再次训练,从而得到包含任务相关领域知识的预训练语言模型TBERT;一方面根据BERT的输入要求将待判断的两个句子构造成句子对作为TBERT的输入,通过多层Transformer模型的学习句子对的全局上下文信息及其关系,从而得到句子对的全局语义相关信息;另一方面通过一个孪生BERT网络分别学习各个句子的局部语义信息,然后结合距离函数计算它们之间的语义相关度信息,从而得到包含句子局部语义及距离信息的语义向量,并最后合并得到最终的句子语义相关度表示。 | ||
搜索关键词: | 一种 基于 知识 增强 迁移 句子 语义 相关 判断 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州平云信息科技有限公司,未经广州平云信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011221328.8/,转载请声明来源钻瓜专利网。