[发明专利]一种基于对抗训练的端到端任务型对话学习框架和方法

权利要求书

1.一种基于对抗训练的端到端任务型对话学习方法，包括：

预训练学生网络、第一教师网络和第二教师网络，其中，第一教师网络用于从知识库中检索实体词；第二教师网络用于从对话数据中学习语言模式，学生网络用于学习提取实体词并生成回复语句；

训练生成对抗网络以从第一教师网络和第二教师网络向学生网络迁移知识，该生成对抗网络包含第一判别器、第二判别器和生成器，其中学生网络作为生成器，经对抗式训练产生对话回复语句，第一判别器用于区分学生网络和第一教师网络产生的输出分布，第二判别器用于区分学生网络和第二教师网络产生的输出分布；

将经对抗式训练的学生网络用于任务型对话。

2.根据权利要求1所述的方法，其中，在预训练过程中，采用自我批判序列算法优化第一教师网络和第二教师网网络，第二教师网络的损失函数设置为：

第一教师网络的损失函数设置为：

其中是第一教师网络的输出分布，y^s是随机采样的输出，是第二教师网络的输出分布，是每个解码时间步从相应输出分布中获得概率最大的词，BLEU表示布勒分值，F1表示实体F1分值。

3.根据权利要求1所述的方法，其中，在预训练过程中，学生网络的损失函数设置为输出分布和真实的目标词汇y_t之间的交叉熵，表示为：

其中，T是输出回复语句的长度。

4.根据权利要求1所述的方法，其中，第一判别器和第二判别器是采用门控循环单元的二分类器，对于每个判别器，采用门控循环单元来编码输出分布P^o，门控循环单元的最后一个隐藏层状态h_T被传递给输出层，在每个时间步t考虑当前的输出分布时，判别器定义为：

D(P^o)＝sigmoid(Wh_T)

其中W是可学习的参数，h_t是在第t个时间步的隐藏层状态，BiGRU表示双向门控循环单元。

5.根据权利要求3所述的方法，其中，在训练生成对抗网络过程中，当训练第一判别器D_KB和第二判别器D_DP时，固定学生网络的参数不变，第一判别器和第二判别器被训练用于最小化分配错误标签给学生网络和相应教师网络的输出分布的概率，表示为L_DP和L_KB：

L_DP＝-log(1-D_DP(P^s))-log(D_DP(P^dp))

L_KB＝-log(1-D_KB(P^s))-log(D_KB(P^kb))

L_D＝L_DP+L_KB

其中，P^s是学生网络产生的输出分布，P^kb是第一教师网络产生的输出分布，P^dp是第二教师网络产生的输出分布，L_D是用于更新判别器的目标函数。

6.根据权利要求5所述的方法，其中，在训练生成对抗网络过程中，当更新学生网络时，以最小化对抗损失函数L_G为目标，表示为：

L_G＝-log(D_DP(P^s))-log(D_KB(P^s))

学生网络最终的损失函数表示为：

其中α是一个标量，用于决定在学生网络中对抗损失L_G的重要程度。