[发明专利]一种用于智能问答的文本嵌入式表达方法在审
申请号: | 202110511076.0 | 申请日: | 2021-05-11 |
公开(公告)号: | CN113239162A | 公开(公告)日: | 2021-08-10 |
发明(设计)人: | 冯落落;李锐;王建华 | 申请(专利权)人: | 山东新一代信息产业技术研究院有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06K9/62;G06N3/08 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 陈婷婷 |
地址: | 250100 山东省济南市高新*** | 国省代码: | 山东;37 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本发明公开了一种用于智能问答的文本嵌入式表达方法,属于自然语言处理技术领域,通过无监督的对比学习与Bert预训练模型结合进行文本向量的提取,利用对比损失完成Bert模型的微调,实现过程包括:搭建Bert预训练模型,加载Bert预训练权重;依据新的数据集,进行Bert模型的微调,通过构建损失函数,使用优化器进行优化;利用无监督的对比学习方法微调Bert模型,获取向量表示用以构造所述损失函数;根据训练好的模型,获取相应的句子表示。本发明能够更好的进行文本向量的提取,使得提出来的文本向量具有更好的相似度分析能力,准确率更高。 | ||
搜索关键词: | 一种 用于 智能 问答 文本 嵌入式 表达 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东新一代信息产业技术研究院有限公司,未经山东新一代信息产业技术研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110511076.0/,转载请声明来源钻瓜专利网。