[发明专利]一种基于Transformer的汉盲翻译方法及系统有效

专利信息
申请号: 202010409821.6 申请日: 2020-05-14
公开(公告)号: CN111581985B 公开(公告)日: 2022-05-24
发明(设计)人: 苏伟;吴尽昭;张久文;林和;许存禄;蒋琪 申请(专利权)人: 兰州大学
主分类号: G06F40/47 分类号: G06F40/47;G06F40/126;G06F40/117;G06F40/289
代理公司: 北京海虹嘉诚知识产权代理有限公司 11129 代理人: 何志欣
地址: 730000 甘肃*** 国省代码: 甘肃;62
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 transformer 翻译 方法 系统
【权利要求书】:

1.一种基于Transformer的汉盲翻译方法,其特征在于,所述方法至少包括:

基于现有句子级对应的汉盲数字资源训练翻译模型;

基于Transformer构建以句子为单位的将汉语文本直接转换为盲文ASCII码的所述翻译模型,其中,

所述翻译模型基于多头自注意力机制以至少将输入、输出、输入-输出的信息关联的方式学习所述汉盲数字资源;基于现有句子级对应的汉盲数字资源训练翻译模型的步骤至少包括:

基于所述汉盲数字资源获取汉语语料和与所述汉语语料对照的盲文ASCII码语料或盲文点字语料;

对所述汉语语料、盲文ASCII码语料或盲文点字语料进行预处理以转换为所述翻译模型需要的句子信息,其中,

所述句子信息至少包括汉语文本和盲文文本的句子切分信息;所述预处理步骤至少包括:

至少基于中文标点符号和截断长度对所述汉语语料进行切分,从而得到对应所述汉语语料的第一句子和对应所述第一句子的第一最大长度;

基于所述汉语句子的切分信息对所述盲文ASCII码语料或盲文点字语料进行切分,从而得到对应所述盲文ASCII码语料或盲文点字语料的第二句子和对应所述第二句子的第二最大长度;

对所述第一句子和第二句子分别进行标记;

通过字典将标记后的第一句子和第二句子转换为数字信息;对所述第一句子和第二句子分别进行标记的步骤如下:

在所述第一句子的首部添加第一标记,并在第二句子的首部添加第一映射标记;

在所述第一句子的尾部添加第二标记,并在第二句子的尾部添加第二映射标记,其中,

在所述第一句子的长度小于所述第一最大长度的情况下,在所述第二标记之后添加第三标记;

在所述第二句子的长度小于所述第二最大长度的情况下,在所述第二映射标记之后添加第三映射标记;通过字典将标记后的第一句子和第二句子转换为数字信息的步骤如下:

基于所述汉语语料生成汉语字典;

基于所述盲文ASCII码语料或盲文点字语料生成盲文字典,其中,

所述汉语字典的至少三个键分别对应所述第一标记、第二标记和第三标记;

所述盲文字典的至少三个键分别对应所述第一映射标记、第二映射标记和第三映射标记;在所述翻译模型获取所述汉盲数字资源预处理的句子信息进行训练的步骤如下:

依次以所述第一标记、第一句子、第二标记和第三标记的顺序构建所述翻译模型的输入;

依次以所述第二句子、第二映射标记和第三映射标记的顺序构建所述翻译模型的输出;

学习所述第一句子到第二句子之间的映射函数;所述翻译模型采用多头自注意力机制,其中,

所述多头自注意力机制的输入至少包括查询向量、键向量和值向量,并将所述查询向量、键向量和值向量分别投射到不同的子空间中,从而在不同的子空间中学习输入、输出、输入-输出的信息;所述方法还包括:

基于预处理后的所述汉盲数字资源的句子信息不断训练得到所述翻译模型的最优超参数;

基于所述最优超参数调整所述翻译模型得到训练好的翻译模型;

基于训练好的翻译模型翻译输入的汉语文本,其中,

对输入的汉语文本进行预处理以转换为所述翻译模型需要的句子信息。

2.一种用于执行权利要求1所述的基于Transformer的汉盲翻译方法的系统,至少包括为用户提供汉语文本到盲文翻译的翻译逻辑组件,其特征在于,

所述翻译逻辑组件配置为调用训练好的翻译模型进行翻译,其中,所述翻译模型配置为:基于Transformer以句子为单位将汉语文本直接转换为盲文ASCII码的方式构建,其中,

所述翻译模型基于多头自注意力机制以至少将输入、输出、输入-输出的信息关联的方式学习汉盲数字资源,其中,

所述翻译模型通过现有句子级对应的汉盲数字资源训练。

3.根据权利要求2的所述的汉盲翻译系统,其特征在于,所述翻译逻辑组件至少包括预处理模块、调用模块和翻译结果模块,

所述调用模块配置为通过训练好的所述翻译模型将所述预处理模块传输的汉语文本转换为盲文ASCII码,并将所述盲文ASCII码传输至所述翻译结果模块。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于兰州大学,未经兰州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010409821.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top