[发明专利]对话数据集、安全检测模型的构建方法、对话系统的安全评估方法、介质及计算设备

权利要求书

1.一种对话数据集构建方法，包括：

根据预设方式获取不同内部语境类别的对话数据，其中，每一个所述对话数据至少包括一对上下文语句；

结合每一个对话数据中的上文语句，确定对应下文语句为安全或不安全；

根据所述下文语句安全与否的结果，对每一个所述对话数据是否安全进行标记。

2.如权利要求1所述的对话数据集构建方法，其中，所述下文语句的不安全类别至少包括以下之一：冒犯用户、风险忽视、伪专业建议、同意毒性、偏见观点和延续敏感话题。

3.如权利要求1或2所述的对话数据集构建方法，其中，在获取到对话数据后，所述方法还包括：

对所述对话数据进行格式处理：

按照预设长度对所述对话数据进行筛选，保留上下文中每一语句均在预设长度内的对话数据；

删除所述对话数据中每一语句的非自然语言部分，至少包括表情符号、链接地址、异常符号以及额外空格中的一个。

4.如权利要求3所述的对话数据集构建方法，其中，在格式处理后，所述方法还包括：

对所述对话数据中的每一下文语句进行单句话语安全检测，并将单句话语安全检测的结果为不安全的对话数据删除。

5.一种对话安全检测模型的构建方法，包括：

获取对话数据集，所述对话数据集包括多组对话数据，每组对话数据至少包括上文语句、下文语句和表示所述对话数据是否安全的标注；

采用所述对话数据集训练所述对话安全检测模型，以使其能够结合每一个对话数据中的上文语句，确定对应下文语句为安全或不安全。

6.如权利要求5所述的对话安全检测模型的构建方法，其中，所述对话安全检测模型还能够确定下文语句的不安全类别，所述下文语句的不安全类别至少包括以下之一：冒犯用户、风险忽视、伪专业建议、同意毒性、偏见观点和延续敏感话题。

7.一种对话系统的安全评估方法，包括：

获取待检测对话，所述待检测对话包括至少一轮对话，所述至少一轮对话中的至少一个回复语句由所述对话系统输出；

结合每一个待检测对话中的上文语句，确定对应下文语句为安全或不安全。

8.如权利要求7所述的对话系统的安全评估方法，其中，确定对应下文语句为不安全后，所述方法还包括：

确定下文语句的不安全类别，所述下文语句的不安全类别至少包括以下之一：冒犯用户、风险忽视、伪专业建议、同意毒性、偏见观点和延续敏感话题。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-9中任一项所述的方法。

10.一种计算设备，其特征在于，所述计算设备包括处理器，所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1-9中任一项所述的方法。