[发明专利]基于人工智能的文本数据增强方法、装置、设备及存储介质在审
申请号: | 201811641967.2 | 申请日: | 2018-12-29 |
公开(公告)号: | CN109614492A | 公开(公告)日: | 2019-04-12 |
发明(设计)人: | 金戈;徐亮;肖京 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35 |
代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 汪琳琳 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 输出文本 流畅度 文本生成 输入文本 人工智能 存储介质 文本数据 文本 人工智能技术 文本数据库 模型训练 数据量 转化 申请 | ||
本申请属于人工智能技术领域,涉及基于人工智能的文本数据增强方法、装置、设备及存储介质。该方法包括:将文本数据库中的第一输入文本提供给文本生成模型,并由所述文本生成模型将所述第一输入文本转化成至少一条第一输出文本;计算所述第一输出文本的语序流畅度;将所述第一输出文本的语序流畅度与正确文本的语序流畅度比较;当所述第一输出文本的语序流畅度大于或者等于所述正确文本的语序流畅度时,将所述第一输出文本作为第二输入文本提供给所述文本生成模型,以使得所述文本生成模型将所述第二输入文本转化成至少一条第二输出文本,所述第二输出文本的语序流畅度小于所述正确文本的语序流畅度。其增加了文本生成模型训练的数据量。
技术领域
本申请属于人工智能技术领域,涉及基于人工智能的文本数据增强方法、装置、设备及存储介质。
背景技术
目前,文本生成模型能够将一条或一条以上的输入文本转化成一条或一条以上的输出文本。为了让所述文本生成模型能够生成语病少、语义更准确的输出文本,需要给所述文本生成模型提供大量的输入文本,使得所述文本生成模型能够收敛。
现有的技术条件下,要获得符合要求的大量的输入文本是非常困难的,使得对于所述文本生成模型进行的训练很难达到理想的效果,也即所述文本生成模型不易实现收敛。此外,现有技术中难以对所述文本生成模型转化获得的输出文本进行语病检查,因此制约了所述文本生成模型的实际应用。
发明内容
本申请实施例公开了基于人工智能的文本数据增强方法、装置、设备及存储介质,旨在增加输入文本的数据量。
本申请的一些实施例公开了一种基于人工智能的文本数据增强方法。所述基于人工智能的文本数据增强方法包括:将文本数据库中的第一输入文本提供给文本生成模型,并由所述文本生成模型将所述第一输入文本转化成至少一条第一输出文本;计算所述第一输出文本的语序流畅度;将所述第一输出文本的语序流畅度与正确文本的语序流畅度比较;当所述第一输出文本的语序流畅度大于或者等于所述正确文本的语序流畅度时,将所述第一输出文本作为第二输入文本提供给所述文本生成模型,以使得所述文本生成模型将所述第二输入文本转化成至少一条第二输出文本,直至所述文本生成模型满足预设条件,所述第二输出文本的语序流畅度小于所述正确文本的语序流畅度。
在本申请的一些实施例中,所述计算所述第一输出文本的语序流畅包括:
其中,
f(x)表示所述语序流畅度;P(xi|x<i)指的是给定所述第一输出文本的上文,所述第一输出文本的下文P(xi)的语言模型概率。
在本申请的一些实施例中,所述语言模型概率通过语言模型计算获得,所述语言模型包括n-gram语言模型和神经概率语言模型。
在本申请的一些实施例中,所述将所述第一输出文本作为第二输入文本提供给所述文本生成模型的步骤包括:将所述第一输出文本与所述正确文本组成一个文本数据对,将所述文本数据对中的所述第一输出文本为所述第二输入文本提供给所述文本生成模型。
在本申请的一些实施例中,所述文本生成模型对所述第二输入文本进行错误训练,使得所述第二输出文本的语序流畅度小于所述正确文本的语序流畅度。
在本申请的一些实施例中,所述文本生成模型包括RNN(Recurrent NeuralNetwork,神经网络)结构模型和seq2seq模型。
在本申请的一些实施例中,当所述第一输出文本的语序流畅度小于所述正确文本的语序流畅度时,将所述第一输出文本提供给所述文本生成模型。
在本申请的一些实施例中,所述基于人工智能的文本数据增强方法还包括:当所述文本生成模型收敛时,停止给所述文本生成模型提供所述第一输入文本和所述第二输入文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811641967.2/2.html,转载请声明来源钻瓜专利网。