[发明专利]一种训练文本匹配模型的方法、装置以及存储介质在审
申请号: | 202210231382.3 | 申请日: | 2022-03-09 |
公开(公告)号: | CN114781477A | 公开(公告)日: | 2022-07-22 |
发明(设计)人: | 江豪;肖龙源;李稀敏;李威 | 申请(专利权)人: | 厦门快商通科技股份有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06F40/289;G06N3/04;G06N3/08 |
代理公司: | 厦门市精诚新创知识产权代理有限公司 35218 | 代理人: | 李俊楠 |
地址: | 361000 福建省厦门市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及人工智能领域,其公开了一种训练文本匹配模型的方法,包括:使用第三训练集训练预先训练的语言模型得到第一教师模型,使用第一教师模型对预先建立的待蒸馏模型进行知识蒸馏得到第一学生模型;使用第一训练集训练第一教师模型得到第二教师模型,将第二训练集存储到搜索引擎,使用第二教师模型提取第二训练集的特征向量,将特征向量存储到近似近邻搜索库;通过第一训练集中的已标注数据包含的第一文本和第二文本从搜索引擎和近似近邻搜索库中分别获取第一结果集和第二结果集,并确定蒸馏数据;基于蒸馏数据训练第一学生模型,生成训练好的目标模型。本发明可以在训练过程中有针对性地对训练集的数据进行增强,提高知识蒸馏的效果。 | ||
搜索关键词: | 一种 训练 文本 匹配 模型 方法 装置 以及 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门快商通科技股份有限公司,未经厦门快商通科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210231382.3/,转载请声明来源钻瓜专利网。
- 上一篇:一种智能感应出泡沫设备
- 下一篇:一种固定在外架上的广告牌