[发明专利]一种基于机器学习的敏感信息库构建方法、装置及计算机可读存储介质

权利要求书

1.一种基于机器学习的敏感信息库构建装置，其特征在于，包括相互连接的信息采集单元、第一识别处理单元、模型收敛单元以及存储单元；

所述信息采集单元，用于采集原始信息，并对所述原始信息进行预处理，以获取文本信息；

所述第一识别处理单元，用于基于配置的规则策略对所述文本信息执行第一识别处理，所述规则策略用于甄别所述文本信息中的违规信息；

所述模型收敛单元，用于利用经训练的机器学习模型对甄别的所述违规信息进行模型收敛锻炼；所述机器学习模型用于收敛所述违规信息所衍生的敏感信息；

所述存储单元，用于存储所述甄别出的敏感信息。

2.根据权利要求1所述的基于机器学习的敏感信息库构建装置，其特征在于，所述原始信息包括视频源文件以及与节目相关媒资元数据，所述视频源文件中包括视频、音频；所述媒资元数据包括节目名称、剧集、时长、演员、地区。

3.一种基于机器学习的敏感信息库构建方法，其特征在于，所述方法应用于如权利要求1-2所述任一项的基于机器学习的敏感信息库构建装置中，所述方法包括如下步骤：

采集原始信息，并对所述原始信息进行预处理，以获取文本信息；

基于配置的规则策略对所述文本信息执行第一识别处理，所述规则策略用于甄别所述文本信息中的违规信息；

利用经训练的机器学习模型对甄别的所述违规信息进行模型收敛锻炼；所述机器学习模型用于收敛所述违规信息所衍生的敏感信息；

存储所述甄别出的敏感信息。

4.根据权利要求3所述的基于机器学习的敏感信息库构建方法，其特征在于，所述原始信息包括视频源文件及与节目相关媒资元数据。

5.根据权利要求4所述的基于机器学习的敏感信息库构建方法，其特征在于，所述视频源文件中包括视频、音频；所述媒资元数据包括节目名称、剧集、时长、演员、地区。

6.根据权利要求5所述的基于机器学习的敏感信息库构建方法，其特征在于，所述预处理包括：识别视频源文件中场景、演员，并进行段落分解，按段落对视频源文件进行剪切、拆条。

7.根据权利要求6所述的基于机器学习的敏感信息库构建方法，其特征在于，所述基于配置的规则策略对所述文本信息执行第一识别处理包括：对所述文本信息从视频、音频、字幕三个方面按段落进行相关违规信息的甄别。

8.根据权利要求7所述的基于机器学习的敏感信息库构建方法，其特征在于，所述违规信息的甄别包含：器官裸露情况、血腥程度、脏字。

9.根据权利要求7所述的基于机器学习的敏感信息库构建方法，其特征在于，所述机器学习模型由以下方式获得：

采集用于训练所述机器学习模型的第一数据，并对第一数据进行第一预处理，所述第一预处理包括：识别视频源文件中场景、演员，并进行段落分解，按段落对视频源文件进行剪切、拆条；从视频、音频、字幕三个方面按段落进行相关违规信息的甄别；

将经所述第一预处理的第一数据分割为训练集、验证集和测试集，其中所述训练集用于训练所述机器学习模型，所述验证集用于优化所述机器学习模型，所述测试集用于检测所述机器学习模型过滤衍生敏感信息的性能；

基于监督模式对所述机器学习模型进行训练、优化和检测。

10.一种计算机可读存储介质，其特征在于，包括处理器、计算机可读存储介质以及在所述计算机可读存储介质上存储的计算机程序，所述计算机程序被处理器执行时实现如权利要求3至9任一项所述方法中的步骤。