[发明专利]一种基于掩码语言模型的文献新词发现方法及系统在审
申请号: | 202111141051.2 | 申请日: | 2021-09-28 |
公开(公告)号: | CN113901811A | 公开(公告)日: | 2022-01-07 |
发明(设计)人: | 朱家兵;杨玺;谷钢;尹京刚 | 申请(专利权)人: | 浪潮软件科技有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/216;G06N3/08 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 陈婷婷 |
地址: | 250100 山东省济*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于掩码语言模型的文献新词发现方法及系统,属于人工智能自然语言处理技术领域,该方法包括掩码语言训练组件、模型依赖关系运算组件和最大概率运算组件,掩码语言训练组件对文献数据进行数据清洗、句段切分,通过训练集的训练组成向量标识Word Embedding,组建Attention机制和前馈神经网络,合为一组Encoder,并搭建Encoder训练模型;将编码后的训练集采用随机屏蔽,部分输入token做训练集输入,被屏蔽的token做输出,以该方式做数据生成器,训练深度双向表示网络。本发明能够达到速度与精确度的平衡,对于特定场景的文献有更好的新词发现效果。 | ||
搜索关键词: | 一种 基于 掩码 语言 模型 文献 新词 发现 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮软件科技有限公司,未经浪潮软件科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111141051.2/,转载请声明来源钻瓜专利网。
- 上一篇:光伏系统的仿真方法及装置
- 下一篇:一种智能网联车辆状态监控与分析系统及方法