[发明专利]机器学习系统的用户感知解释选择

说明书

提供了有助于用于机器学习系统输出的解释选择的系统、计算机实施的方法和计算机程序产品。在一个实施例中，计算机实施的方法包括：由可操作地耦合到处理器的设备访问生成机器学习输出的不同类型的解释的多个解释生成组件；由设备监控接收机器学习系统输出的实体的指示符，以获得用户情绪状态描述符；以及由该设备将来自选择的解释生成组件的解释提供给用户界面，用于评估具有解释的机器学习系统输出。

关于联邦政府赞助的研究或开发的声明

本发明是在政府支持下根据合同号：W911NN-16-3-0001完成的。本公开涉及国防科学技术实验室(Defense Science and Technology Laboratory，DSTL)，而不是特定的机构。政府对这项发明具有特定权利。

技术领域

本发明的一个或多个实施例涉及用于机器学习系统的基于用户的解释选择，并且更具体地，涉及基于用户情绪的解释选择。

背景技术

一个或多个实施例涉及用于机器学习系统的基于用户的解释选择，并且更具体地，涉及基于用户情绪的解释选择。

发明内容

下面呈现发明内容，以提供对本发明的一个或多个实施例的基本理解。此发明内容不旨在标识关键或重要元素，或者描绘特定实施例的任何范围或权利要求的任何范围。其唯一目的是以简化的形式呈现构思，作为稍后呈现的更详细描述的序言。在本文描述的一个或多个实施例中，描述了有助于基于用户情绪从机器学习系统中选择解释的系统、计算机实施的方法、装置和/或计算机程序产品。

根据本发明的一方面，提供了一种系统，包括：存储器，该存储器存储计算机可执行组件；以及处理器，该处理器可操作地耦合到存储器，并且执行存储在存储器中的计算机可执行组件，其中计算机可执行组件包括：解释选择组件，该解释选择组件访问生成机器学习输出的不同类型的解释的多个解释生成组件；以及监控组件，该监控组件监控接收机器学习系统输出的实体的指示符，以获得用户情绪状态描述符，并且其中解释选择组件还将来自选择的解释生成组件的解释提供给用户界面，用于评估具有解释的机器学习系统输出。

根据另一方面，提供了一种计算机实施的方法，该方法包括：由可操作地耦合到处理器的设备访问生成机器学习输出的不同类型的解释的多个解释生成组件；由设备监控接收机器学习系统输出的实体的指示符，以获得用户情绪状态描述符；以及由该设备将来自选择的解释生成组件的解释提供给用户界面，用于评估具有解释的机器学习系统输出。

根据另一方面，提供了一种有助于用于机器学习系统输出的解释选择的计算机程序产品，该计算机程序产品包括体现有程序指令的计算机可读存储介质，该程序指令可由处理器执行以使处理器：访问生成机器学习输出的不同类型的解释的多个解释生成组件；监控接收机器学习系统输出的实体的指示符，以获得用户情绪状态描述符；并且将来自选择的解释生成组件的解释提供给用户界面，用于评估具有解释的机器学习系统输出。

附图说明

图1是根据本文描述的一个或多个实施例的系统的示例、非限制性实施例的示意图。

图2是根据本文描述的一个或多个实施例的计算机实施的方法的示例、非限制性实施例的流程图。

图3A和图3B是根据本文描述的一个或多个实施例的系统的另外的方面的示意图。

图4是根据本文描述的一个或多个实施例的系统的示例、非限制性实施例的框图。

图5是本发明的一个或多个实施例可以在其中实施的计算机系统或云服务器的实施例的框图。

图6是本发明的一个或多个实施例可以在其中实施的云计算环境的示意图。

图7是本发明的一个或多个实施例可以在其中实施的云计算环境的抽象模型层的图。