[发明专利]文本审核方法、装置、设备及存储介质

说明书

本发明涉及人工智能技术领域，公开了一种文本审核方法、装置、计算机设备及计算机可读存储介质，该方法包括：通过将获取到的待审核文本，输入到文本审核模型中；基于所述预训练语言模型，获取所述待审核文本中各个字词的字词语义特征向量信息；基于所述长短期记忆网络，得到各个所述字词的的上下文语义特征向量信息；通过预置全连接层，得到各个所述字词的多个标签信息；基于所述条件随机场对各个所述字词的多个标签信息进行关联学习，获取所述待审核文本中各个字词的审核标签信息；基于各个所述字词的审核标签信息，确定所述待审核文本是否违规，实现对于文本不同语义结合上下文语境判断文本,提高文本审核的准确率。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种文本审核方法、装置、计算机设备及计算机可读存储介质。

背景技术

文本审核就是审核文本中的违规信息，包括政治敏感、色情、辱骂等。目前常见的做法是通过深度学习网络模型对文本进行审核，但通过深度学习网络模型无法审核出不同文本中相同的字词在不同上下文语境中不同语义的问题，且审核的准确率较低。

发明内容

本申请的主要目的在于提供一种文本审核方法、装置、计算机设备及计算机可读存储介质，旨在解决现有深度学习网络模型无法审核出不同文本中相同的字词在不同上下文语境中不同语义的问题，且审核的准确率较低的技术问题。

第一方面，本申请提供一种文本审核方法，所述文本审核方法包括以下步骤：

获取待审核文本，并将所述待审核文本输入到文本审核模型中，其中，所述文本审核模型包括预训练语言模型、长短期记忆网络和条件随机场；

基于所述预训练语言模型，获取所述待审核文本中各个字词的字词语义特征向量信息；

基于所述长短期记忆网络和各个所述字词的字词语义特征向量信息，得到各个所述字词的的上下文语义特征向量信息；

通过预置全连接层对各个所述字词的的上下文语义特征向量信进行线性变换，得到各个所述字词的多个标签信息；

基于所述条件随机场对各个所述字词的多个标签信息进行关联学习，获取所述待审核文本中各个字词的审核标签信息；

基于各个所述字词的审核标签信息，确定所述待审核文本是否违规。

第二方面，本申请还提供一种文本审核装置，所述文本审核装置包括：

第一获取模块，用于获取待审核文本，并将所述待审核文本输入到文本审核模型中，其中，所述文本审核模型包括预训练语言模型、长短期记忆网络和条件随机场；

第二获取模块，用于基于所述预训练语言模型，获取所述待审核文本中各个字词的字词语义特征向量信息；

第三获取模块，用于基于所述长短期记忆网络和各个所述字词的字词语义特征向量信息，得到各个所述字词的的上下文语义特征向量信息；

第四获取模块，用于通过预置全连接层对各个所述字词的的上下文语义特征向量信进行线性变换，得到各个所述字词的多个标签信息；

第五获取模块，用于基于所述条件随机场对各个所述字词的多个标签信息进行关联学习，获取所述待审核文本中各个字词的审核标签信息；

确定模块，用于基于各个所述字词的审核标签信息，确定所述待审核文本是否违规。

第三方面，本申请还提供一种计算机设备，所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序，其中所述计算机程序被所述处理器执行时，实现如上述的文本审核方法的步骤。

第四方面，本申请还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，其中所述计算机程序被处理器执行时，实现如上述的文本审核方法的步骤。