[发明专利]一种文本生成方法、装置及存储介质

权利要求书

1.一种文本生成方法，其特征在于，包括如下步骤：

导入多个数据集，并分别对各个所述数据集进行拼接计算，得到与各个所述数据集对应的数据集嵌入向量；

构建训练模型，根据多个所述数据集嵌入向量和多个所述数据集对所述训练模型进行参数更新，得到更新后的训练模型；

根据所述更新后的训练模型对待训练文本进行训练，得到生成文本。

2.根据权利要求1所述的文本生成方法，其特征在于，所述分别对各个所述数据集进行拼接计算，得到与各个所述数据集对应的数据集嵌入向量的过程包括：

通过第一式分别对各个所述数据集进行拼接计算，得到与各个所述数据集对应的数据集嵌入向量，所述第一式为：

r_j＝ReLU(W_r[r_j，1；r_j，2；...；r_j，K]+b_r)，

其中，r_j为第j个数据集嵌入向量，ReLU为激活函数，W_r为权重矩阵，[r_j，1；r_j，2；...；r_j，K]为第j个数据集中的数据，b_r为偏置向量，[；]为向量之间的拼接。

3.根据权利要求1所述的文本生成方法，其特征在于，所述构建训练模型，根据多个所述数据集嵌入向量和多个所述数据集对所述训练模型进行参数更新，得到更新后的训练模型的过程包括：

基于0penNMT-py编解码模型构建训练模型，所述训练模型包括编码层和解码层；

分别将各个所述数据集嵌入向量输入至所述编码层中，通过所述编码层分别对各个所述数据集嵌入向量进行编码分析，得到多个数据集更新向量；

将多个所述数据集更新向量输入至所述解码层中，通过所述解码层对多个所述数据集更新向量进行最终文本的计算，得到最终文本和多个文本原始概率；

根据所述最终文本对多个所述文本原始概率进行损失计算，得到更新损失函数；

根据所述更新损失函数对所述训练模型进行训练，得到更新后的训练模型。

4.根据权利要求3所述的文本生成方法，其特征在于，所述通过所述编码层分别对各个所述数据集嵌入向量进行编码分析，得到多个数据集更新向量的过程包括：

分别将各个所述数据集嵌入向量输入至隐藏层中，通过所述预建隐藏层分别对各个所述数据集嵌入向量进行编码处理，得到多个数据集编码向量和与所述数据集编码向量对应的隐藏层输出向量；

分别对各个所述数据集编码向量和与所述数据集编码向量对应的隐藏层输出向量进行内容筛选的计算，得到多个数据集更新向量。

5.根据权利要求4所述的文本生成方法，其特征在于，所述分别将各个所述数据集嵌入向量输入至隐藏层中，通过所述预建隐藏层分别对各个所述数据集嵌入向量进行编码处理，得到多个数据集编码向量和与所述数据集编码向量对应的隐藏层输出向量的过程包括：

通过第二式分别对各个所述数据集嵌入向量进行均值池化编码，得到多个数据集编码向量，所述第二式为：

其中，r_j为第j个数据集嵌入向量，Meanpooling为均值池化，为第j个数据集编码向量；

分别对各个所述数据集嵌入向量进行隐藏信息提取，得到与所述数据集编码向量对应的隐藏层输出向量。

6.根据权利要求5所述的文本生成方法，其特征在于，所述分别对各个所述数据集编码向量和与所述数据集编码向量对应的隐藏层输出向量进行内容筛选的计算，得到多个数据集更新向量的过程包括：

通过第三式分别对各个所述数据集编码向量和与所述数据集编码向量对应的隐藏层输出向量进行计算，得到多个数据集更新向量，所述第三式为：

其中，

其中，h_n为隐藏层输出向量，W_s和U_s均为权重矩阵，为第j个数据集编码向量，⊙为元素点乘，e_j为第j个数据集更新向量，σ为sigmoid函数，b为偏置向量，sGate为选择门。