[发明专利]认知虚拟检测器

说明书

本发明的各方面公开了一种用于检测和减轻对抗虚拟交互的方法、计算机程序产品和系统。该方法包括一个或多个处理器检测与虚拟代理交互的用户通信。该方法还包括一个或多个处理器基于由检测到的用户在与虚拟代理交互时执行的一个或多个动作来确定与检测到的用户通信相关联的风险水平。该方法还包括一个或多个处理器响应于确定与检测到的用户通信相关联的所确定的风险水平超过风险水平阈值，发起关于检测到的用户与虚拟代理之间的交互的缓解协议，其中缓解协议基于由检测到的用户在与虚拟代理交互时执行的动作。

技术领域

本发明一般地涉及控制论领域，更具体地涉及人工智能。

背景技术

在人工智能中，智能代理(IA)是自主实体，其通过传感器观察并使用致动器对环境进行作用(即，其是代理)，并将其活动引向实现目标(即，其是“合理的”，如经济学中所定义的)。智能代理还可以学习或使用知识来实现其目标。它们可以非常简单或非常复杂：反射机器，例如恒温器，是智能代理。

简单的反射代理仅基于当前感知起作用，忽略感知历史的其余部分。代理功能基于条件-动作规则：如果条件，则动作。这个代理功能只有在环境完全可观察时才成功。一些反射代理还可以包含关于它们的当前状态的信息，这允许它们忽略其致动器已经被触发的条件。对于在部分可观察环境中运行的简单反射代理，无限循环通常是不可避免的。

基于模型的代理可以处理部分可观察环境。其当前状态被存储在代理内部，维持描述世界上不能被看到的部分的某种结构。这种关于“世界如何工作”的知识被称为世界的模型，因此被称为“基于模型的代理”。基于模型的反射代理应当保持某种内部模型，该内部模型取决于感知历史，并且由此反映当前状态的至少一些未被观察的方面。可以通过使用内部模型来确定感知历史和动作对环境的影响。然后，它以与反射代理相同的方式选择动作。

基于目标的代理通过使用“目标”信息进一步扩展基于模型的代理的能力。目标信息描述了期望的情况。这允许代理在多种可能性中进行选择的方式，选择达到目标状态的一个可能性。搜索和规划是人工智能的子域，其致力于寻找实现代理目标的动作序列。基于目标的代理更灵活，因为支持其决定的知识被明确地表示并且可以被修改。

基于目标的代理仅在目标状态与非目标状态之间进行区分。可以定义特定状态的期望程度的度量。这个度量可以通过使用将状态映射到该状态的效用度量的效用函数来获得。更一般的性能度量应该允许根据不同世界状态使代理准确地有多快乐来比较这些不同世界状态。术语“效用”可用于描述代理“快乐”的程度。基于合理效用的代理选择最大化动作结果的预期效用的动作，即，给定每个结果的概率和效用，代理平均预期得出什么。基于效用的代理需要建模并跟踪其环境、涉及对感知、表示、推理和学习的大量研究的任务。

学习具有的优点是，其允许代理最初在未知环境中操作，并且变得比其初始知识单独可能允许的更有能力。最重要的区别在于负责进行改进的“学习元件”和负责选择外部动作的“性能元件”之间。学习元件使用来自“评论者”的关于代理如何做的反馈，并确定在将来应如何修改性能元件以做得更好。性能元件是我们先前认为是整个代理的元件：它接收感知并决定动作。学习代理的最后一个组件是“问题产生器”，它负责建议将导致新的和信息丰富的体验的动作。

虚拟代理正越来越多地部署在企业中以处理与客户或与雇员的交互。随着这些虚拟代理在企业中承担更多的功能，它们正日益成为攻击(例如，垃圾邮件、提取、中毒和规避攻击)的目标。因此，在本领域中需要解决上述问题。

发明内容

从第一方面来看，本发明提供了一种用于检测和减轻对抗虚拟交互的计算机实现的方法，该方法包括：由一个或多个处理器检测与虚拟代理交互的用户通信；由一个或多个处理器基于由检测到的用户在与虚拟代理交互时执行的一个或多个动作来确定与检测到的用户通信相关联的风险水平；以及响应于确定与检测到的用户通信相关联的所确定的风险水平超过风险水平阈值，由一个或多个处理器发起关于检测到的用户与虚拟代理之间的交互的缓解协议，其中缓解协议基于由检测到的用户在与虚拟代理交互时执行的动作。