[发明专利]评估由文本分类模型预测的文本分类异常

说明书

响应于在预先训练的文本分类器上运行至少一个测试短语以及基于针对每个相应的至少一个测试短语计算的得分来标识单独的预测分类标记，文本分类器将合计在得分中的多个提取特征分解为针对至少一个测试短语中的每个词的词级得分。文本分类器向每个词级得分分配单独的热图值，每个相应的单独的热图值反映每个词级得分的权重。文本分类器输出单独的预测分类标记和反映每个词级得分的权重的每个单独的热图值，以用于定义标识该至少一个测试短语中的每个词对于单独的预测分类标记的贡献的热图，以有助于客户端评估文本分类异常。

技术领域

本发明的一个或多个实施例一般涉及数据处理，并且特别地涉及评估由文本分类模型预测的文本分类异常。

相关技术的描述

机器学习在许多人工智能(AI)应用程序中起着重要作用。训练机器学习应用程序的过程的成果之一是被称为文本分类中使用的模型的数据对象，其是从训练数据推断出的模式(pattern)的参数表示。在模型被创建之后，模型被部署到在文本分类中使用的一个或多个环境中。在运行时，基于开发的小时数和大量数据产生的结构，模型是机器学习系统的核心。

发明内容

在一个实施例中，一种方法涉及：响应于在预先训练的文本分类器上运行至少一个测试短语以及基于针对每个相应的至少一个测试短语计算的得分来标识单独的预测分类标记，由计算机系统将合计在得分中的多个提取特征分解为针对该至少一个测试短语中的每个词的多个词级得分。该方法涉及:由计算机系统向该多个词级得分中的每个词级得分分配单独的热图值，每个相应的单独的热图值反映该多个词级得分中的每个词级得分的权重。该方法涉及:由计算机系统输出单独的预测分类标记和反映该多个词级得分中的每个词级得分的权重的每个单独的热图值，以用于定义标识该至少一个测试短语中的每个词对于单独的预测分类标记的贡献的热图。

在另一个实施例中，一种计算机系统包括：一个或多个处理器、一个或多个计算机可读存储器、一个或多个计算机可读存储设备、以及程序指令，该程序指令被存储在该一个或多个存储设备中的至少一个存储设备上以用于由该一个或多个处理器中的至少一个处理器经由该一个或多个存储器中的至少一个存储器执行。所存储的程序指令包括：响应于在预先训练的文本分类器上运行至少一个测试短语以及基于针对每个相应的至少一个测试短语计算的得分来标识单独的预测分类标记将合计在得分中的多个提取特征分解为针对该至少一个测试短语中的每个词的多个词级得分的程序指令。所存储的程序指令包括：向该多个词级得分中的每个词级得分分配单独的热图值的程序指令，每个相应的单独的热图值反映该多个词级得分中的每个词级得分的权重。所存储的程序指令包括：输出单独的预测分类标记和反映该多个词级得分中的每个词级得分的权重的每个单独的热图值以用于定义标识该至少一个测试短语中的每个词对于单独的预测分类标记的贡献的热图的程序指令。

在另一个实施例中，一种计算机程序产品包括：计算机可读存储介质，该计算机可读存储介质中体现有程序指令，其中该计算机可读存储介质不是瞬时信号本身。该程序指令可由计算机执行以使计算机响应于在预先训练的文本分类器上运行至少一个测试短语以及基于针对每个相应的至少一个测试短语计算的得分来标识单独的预测分类标记，由计算机将合计在得分中的多个提取特征分解为针对该至少一个测试短语中的每个词的多个词级得分。该程序指令可由计算机执行以使计算机：由计算机向该多个词级得分中的每个词级得分分配单独的热图值，每个相应的单独的热图值反映该多个词级得分中的每个词级得分的权重。该程序指令可由计算机执行以使计算机：由计算机输出单独的预测分类标记和反映该多个词级得分中的每个词级得分的权重的每个单独的热图值，以用于定义标识该至少一个测试短语中的每个词对于单独的预测分类标记的贡献的热图。

附图说明

被认为是本发明的一个或多个实施例的特征的新颖特征在所附权利要求书中阐明。然而，本发明自身的一个或多个实施例在与附图相结合来阅读时，将通过参考说明性实施例的以下详细说明而得到更好的理解，其中：

图1示出了用于促进通过标记对文本进行分类的文本分类器的创建和训练的文本分类器服务的框图的一个示例；