[发明专利]马来语识别模型的训练方法、识别方法、装置、设备有效

专利信息
申请号: 202010393898.9 申请日: 2020-05-11
公开(公告)号: CN111859933B 公开(公告)日: 2023-08-22
发明(设计)人: 付颖雯;林楠铠;蒋盛益 申请(专利权)人: 广东外语外贸大学
主分类号: G06F40/279 分类号: G06F40/279;G06F40/30;G06F40/284;G06F40/295;G06N3/045;G06N3/0464;G06N3/0442
代理公司: 广州三环专利商标代理有限公司 44202 代理人: 麦小婵;郝传鑫
地址: 510420 *** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 马来语 识别 模型 训练 方法 装置 设备
【权利要求书】:

1.一种马来语识别模型的训练方法,其特征在于,包括:

从预设的马来语数据库中获取至少一个待训练的马来语句子;其中,词性不同的同一单词应用于所述待训练的马来语句子;

根据预设的马来语信息提取模型获取所述待训练的马来语句子对应的语义信息;其中,所述语义信息包括词向量特征信息以及文本特征信息,具体包括:根据词向量提取模型获取所述待训练的马来语句子对应的词向量特征信息,具体为:通过GloVe提取所述待训练的马来语句子对应的静态词向量,通过BERT提取所述待训练的马来语句子对应的动态词向量,并将所述静态词向量与动态词向量相结合形成所述词向量特征信息;根据卷积神经网络提取所述待训练的马来语句子对应的文本特征信息,具体为:通过GLU模型的卷积结构提取所述待训练的马来语句子对应的文本特征信息,结合残差结构结合使所述文本特征信息多通道传输,所述卷积结构包括一个简单的一维卷积以及一个使用sigmoid函数激活的一维卷积,所述一个简单的一维卷积以及一个使用sigmoid函数激活的一维卷积,采用一个残差结构使字符信息在多通道传输:

Y为X的多通道传输输出;X是一个单词的字符嵌入;Conv11为所述一个简单的一维卷积;是点乘操作;“门”结构σ(Conv12())相当于给Conv11()的每个输出都加了一个“阀门”来控制流量;Conv12为所述一个使用sigmoid函数激活的一维卷积;

根据预设的Bi-LSTM模型对所述语义信息进行编码;

将编码后的语义信息分别输入至词性标注任务模块以及命名实体识别任务模块进行训练,获取训练完成的马来语识别模型,具体包括:将所述编码后的语义信息分别输入至所述词性标注任务模块的Multi-head Self-Attention层,再输入至对应的损失函数进行计算,得到第一损失值;将所述编码后的语义信息分别输入至所述命名实体识别任务模块的Multi-head Self-Attention层,再输入至对应的损失函数进行计算,得到第二一损失值;根据所述损失值及预设的训练次数进行马来语识别模型训练,获取训练完成的马来语识别模型。

2.如权利要求1所述的马来语识别模型的训练方法,其特征在于,所述根据预设的Bi-LSTM模型对所述语义信息进行编码,具体包括:

前向LSTM层对词向量特征信息进行编码,后向LSTM层对文本特征信息进行编码;

将编码后的词向量特征信息与编码后的文本特征信息进行拼接处理,获得编码后的语义信息。

3.一种马来语的识别方法,其特征在于,包括:

获取训练完成的马来语识别模型;其中,所述训练完成的马来语识别模型采用权利要求1-2任一项所述的马来语识别模型的训练方法通过含有词性不同的同一单词的马来语句子进行训练;

根据所述训练完成的马来语识别模型,对待处理的马来语句子进行识别,得到所述待处理的马来语句子对应的命名实体。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东外语外贸大学,未经广东外语外贸大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010393898.9/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top