[发明专利]一种基于预训练模型的机器阅读理解方法在审
申请号: | 202011598331.1 | 申请日: | 2020-12-29 |
公开(公告)号: | CN112541347A | 公开(公告)日: | 2021-03-23 |
发明(设计)人: | 陈观林;姚茹韬;杨武剑;翁文勇;李甜 | 申请(专利权)人: | 浙大城市学院 |
主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F40/242;G06F40/30;G06N3/04;G06N3/08;G06N5/04 |
代理公司: | 杭州九洲专利事务所有限公司 33101 | 代理人: | 张羽振 |
地址: | 310015 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种基于预训练模型的机器阅读理解方法,包括步骤:步骤1、对数据进行预处理;步骤2、根据预训练模型的输出通过高级语义融合网络层进行高级语义融合;步骤3、对经过语义融合之后的机器阅读模型进一步进行能力学习;步骤4、计算命名实体的均方误差损失,并对机器阅读模型进行训练。本发明的有益效果是:本发明通过对文本提取出高级语义信息,给模型提供了更高维度的信息,同时其高度的准确性相对于模型自身在训练过程中去尝试抽取这些信息比较起来,更有参考意义;本发明通过能力学习,使得模型能保持规模不变的情况下,提升了机器阅读的能力,使得模型能够在性能较高的前提下,快速的完成推理任务。 | ||
搜索关键词: | 一种 基于 训练 模型 机器 阅读 理解 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙大城市学院,未经浙大城市学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011598331.1/,转载请声明来源钻瓜专利网。