[发明专利]一种基于Transformer的汉盲翻译方法及系统有效
申请号: | 202010409821.6 | 申请日: | 2020-05-14 |
公开(公告)号: | CN111581985B | 公开(公告)日: | 2022-05-24 |
发明(设计)人: | 苏伟;吴尽昭;张久文;林和;许存禄;蒋琪 | 申请(专利权)人: | 兰州大学 |
主分类号: | G06F40/47 | 分类号: | G06F40/47;G06F40/126;G06F40/117;G06F40/289 |
代理公司: | 北京海虹嘉诚知识产权代理有限公司 11129 | 代理人: | 何志欣 |
地址: | 730000 甘肃*** | 国省代码: | 甘肃;62 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 transformer 翻译 方法 系统 | ||
1.一种基于Transformer的汉盲翻译方法,其特征在于,所述方法至少包括:
基于现有句子级对应的汉盲数字资源训练翻译模型;
基于Transformer构建以句子为单位的将汉语文本直接转换为盲文ASCII码的所述翻译模型,其中,
所述翻译模型基于多头自注意力机制以至少将输入、输出、输入-输出的信息关联的方式学习所述汉盲数字资源;基于现有句子级对应的汉盲数字资源训练翻译模型的步骤至少包括:
基于所述汉盲数字资源获取汉语语料和与所述汉语语料对照的盲文ASCII码语料或盲文点字语料;
对所述汉语语料、盲文ASCII码语料或盲文点字语料进行预处理以转换为所述翻译模型需要的句子信息,其中,
所述句子信息至少包括汉语文本和盲文文本的句子切分信息;所述预处理步骤至少包括:
至少基于中文标点符号和截断长度对所述汉语语料进行切分,从而得到对应所述汉语语料的第一句子和对应所述第一句子的第一最大长度;
基于所述汉语句子的切分信息对所述盲文ASCII码语料或盲文点字语料进行切分,从而得到对应所述盲文ASCII码语料或盲文点字语料的第二句子和对应所述第二句子的第二最大长度;
对所述第一句子和第二句子分别进行标记;
通过字典将标记后的第一句子和第二句子转换为数字信息;对所述第一句子和第二句子分别进行标记的步骤如下:
在所述第一句子的首部添加第一标记,并在第二句子的首部添加第一映射标记;
在所述第一句子的尾部添加第二标记,并在第二句子的尾部添加第二映射标记,其中,
在所述第一句子的长度小于所述第一最大长度的情况下,在所述第二标记之后添加第三标记;
在所述第二句子的长度小于所述第二最大长度的情况下,在所述第二映射标记之后添加第三映射标记;通过字典将标记后的第一句子和第二句子转换为数字信息的步骤如下:
基于所述汉语语料生成汉语字典;
基于所述盲文ASCII码语料或盲文点字语料生成盲文字典,其中,
所述汉语字典的至少三个键分别对应所述第一标记、第二标记和第三标记;
所述盲文字典的至少三个键分别对应所述第一映射标记、第二映射标记和第三映射标记;在所述翻译模型获取所述汉盲数字资源预处理的句子信息进行训练的步骤如下:
依次以所述第一标记、第一句子、第二标记和第三标记的顺序构建所述翻译模型的输入;
依次以所述第二句子、第二映射标记和第三映射标记的顺序构建所述翻译模型的输出;
学习所述第一句子到第二句子之间的映射函数;所述翻译模型采用多头自注意力机制,其中,
所述多头自注意力机制的输入至少包括查询向量、键向量和值向量,并将所述查询向量、键向量和值向量分别投射到不同的子空间中,从而在不同的子空间中学习输入、输出、输入-输出的信息;所述方法还包括:
基于预处理后的所述汉盲数字资源的句子信息不断训练得到所述翻译模型的最优超参数;
基于所述最优超参数调整所述翻译模型得到训练好的翻译模型;
基于训练好的翻译模型翻译输入的汉语文本,其中,
对输入的汉语文本进行预处理以转换为所述翻译模型需要的句子信息。
2.一种用于执行权利要求1所述的基于Transformer的汉盲翻译方法的系统,至少包括为用户提供汉语文本到盲文翻译的翻译逻辑组件,其特征在于,
所述翻译逻辑组件配置为调用训练好的翻译模型进行翻译,其中,所述翻译模型配置为:基于Transformer以句子为单位将汉语文本直接转换为盲文ASCII码的方式构建,其中,
所述翻译模型基于多头自注意力机制以至少将输入、输出、输入-输出的信息关联的方式学习汉盲数字资源,其中,
所述翻译模型通过现有句子级对应的汉盲数字资源训练。
3.根据权利要求2的所述的汉盲翻译系统,其特征在于,所述翻译逻辑组件至少包括预处理模块、调用模块和翻译结果模块,
所述调用模块配置为通过训练好的所述翻译模型将所述预处理模块传输的汉语文本转换为盲文ASCII码,并将所述盲文ASCII码传输至所述翻译结果模块。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于兰州大学,未经兰州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010409821.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种用于废气处理的生物洗涤系统
- 下一篇:一种组合式除尘滤袋拼接组件
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法