[发明专利]一种文本自动生成方法

权利要求书

1.一种文本自动生成方法，其特征在于，包括：

步骤1、利用预训练好的自编码器得到待处理真实文本的隐藏空间向量；所述自编码器包括：编码器与解码器；相应地，所述自编码器的预训练过程包括：

步骤a1、利用编码器将真实数据集中的训练用真实文本映射到隐藏空间中得到隐藏向量；

步骤a2、利用解码器将编码器得到的隐藏向量映射到训练用真实文本；

步骤a3、将输入至编码器的训练用真实文本与解码器恢复的训练用真实文本进行一致性保持，得到真实数据集的隐藏空间BM；

步骤2、利用训练好的生成网络生成所述隐藏空间向量的合成文本；所述生成网络的训练过程包括：

步骤b1、随机初始化生成网络的参数θ和判别网络的参数φ；

步骤b2、从真实数据集随机抽取一训练用真实文本，利用预训练好的自编码器得到训练用真实文本的隐藏空间向量；

步骤b3、根据训练用真实文本的隐藏空间向量，利用生成网络生成训练用真实文本的合成文本；所述生成网络生成合成文本的过程具体为：

步骤b3.1、分别按照式(1)和式(2)生成隐藏空间向量z的第一个单词y₁和第t个单词y_t：

其中，z∈R^d，d表示噪声向量的维度；C，V表示参数矩阵；w¹表示第一个单词的单词概率分布向量；h₁表示第一个单词的隐藏向量；p(w¹|z)表示；W_e∈R^m×k表示单词的嵌入矩阵，m表示真实文本数据中的单词数目，k表示真实文本数据中单词的维度；i_t,f_t,o_t,c_t,h_t分别表示第t个单词的输入门向量、遗忘门向量、输出门向量、记忆门向量、修正记忆门向量和隐藏向量；w^t表示第t个单词的词概率分布向量；σ(·)表示sigmoid函数，⊙表示点乘；W_{i,f,o,c},U_{i,f,o,c},C_{i,f,o,c},b_{i,f,o,c}表示偏置；t≥2；

步骤b3.2、按照式(3)生成合成文本

其中，G(·)表示生成网络；T表示合成文本的单词数目，⊕表示拼接操作；

步骤b4、从真实数据集再次随机抽取一训练用真实文本，将再次抽取的训练用真实文本和步骤b3中的合成文本输入到判别网络进行文本分类；

步骤b5、将判别网络的分类结果作为奖励值，依次更新判别网络与生成网络的模型参数；

步骤b6、重复步骤b2至步骤b5，直至生成网络与判别网络收敛，即得到训练好的生成网络。

2.根据权利要求1所述的方法，其特征在于，步骤b4中，所述判别网络进行文本分类的过程具体为：

步骤b4.1、在卷积层，每个句子的第i个单词的位置的输出为c_i：

其中，ξ表示输入至判别网络的训练用真实文本和合成文本，ξ∈R^T×k；w∈R^l×k表示窗口大小为l的卷积核，表示点乘后进行加和操作，b表示偏置，ρ表示Relu函数；

步骤b4.2、在池化层，采用最大池化策略，经过池化后的输出为

步骤b4.3、在分类层，采用基于softmax函数的方法进行分类，即y^c＝softmax(W^(p)c+b^(p))。