[发明专利]多输出松弛机器学习模型

说明书

技术领域

本文中所讨论的实施方式涉及多输出松弛(MOR)机器学习模型。

背景技术

机器学习是一种形式的人工智能，其用于使计算机能够基于经验数据来逐渐形成行为。机器学习可以利用训练示例以捕获这些示例的未知的隐含的概率分布的感兴趣的特征。训练数据可以被视为示出了所观测变量之间的关系的示例。机器学习研究的主要焦点在于：自动学习以识别复杂的模式并且基于数据做出智能的决策。

机器学习的一个主要困难在于下述事实：给定所有可能的输入，所有可能的行为的集合太大，以致于不能被训练数据的集合所覆盖。因此，机器学习模型必须从训练数据中进行归纳，以便能够在新的案例中产生有用的输出。

机器学习的一个示例为传统的结构化预测(SP)。传统的SP是一种针对依赖性输出的单模型方法。利用SP，一旦指定输入特征向量x，则可以完全地指定单个正确的输出向量z。因此，给定输入特征向量x，输出向量z完全以输入特征向量x为条件，并且输出向量z(z₁,z₂，…)的不同输出分量有条件地彼此独立。因此，给定x的z₁的概率等于给定x和z₂的z₁的概率，或者p(z₁|x)＝p(z₁|x，z₂)。然而，传统的SP不能处理不同输出分量之间的相互依赖关系。另外，传统的SP不能处理针对给定输入具有多个正确的输出决策的问题。

本文中要求保护的主题不限于解决任何缺点或者仅在例如上述那些的环境中操作的实施方式。而是，该背景仅被提供用于示出其中可以实践本文中所描述的一些实施方式的一个示例技术。

发明内容

总体上，本文中所描述的示例实施方式涉及一种采用多输出松弛(MOR)机器学习模型来预测多输出依赖性(MOD)输出决策的多个相互依赖的输出分量的方法。本文中所公开的示例方法可以用于解决MOD问题。

在一个示例实施方式中，一种用于采用MOR机器学习模型来预测MOD输出决策的多个相互依赖的输出分量的方法可以包括：训练针对MOD输出决策的多个相互依赖的输出分量中的每个输出分量的分类器，以基于输入并且基于其他分量中的所有分量来预测该分量。所述方法还可以包括：将针对分量中的每个分量的每个可能的值初始化为预定输出值。所述方法还可以包括：对分类器中的每个分类器运行松弛迭代以更新针对分量中的每个分量的每个可能的值的输出值，直到松弛状态达到平衡或者达到松弛迭代的最大次数。所述方法还可以包括：从分类器中的每个分类器中检索最优分量。

在以上示例中，每个分类器可以包括多层感知(MLP)神经网络、另外的多层神经网络、决策树或者支持向量机。而且，当针对当前迭代的输出分量的可能的值的输出值与针对之前迭代的输出分量的可能的值的输出值之间的差异小于或等于预定阈值时，可以达到平衡。另外，所述MOD输出决策可以为LRM MOD输出决策，并且所述输入包括输入特征向量，所述输入特征向量包括关于潜在客户的恒定特征以及与代理者与潜在客户之间的交互有关的交互特征，所述输入特征向量中的特征包括以下各项中的一项或更多项：潜在客户源；潜在客户的头衔；潜在客户的行业；潜在客户所在州；潜在客户的创建日期；潜在客户的公司规模；潜在客户的状态；之前的拨号次数；之前的电子邮件数目；之前的动作；自上次动作之后的小时数；响应代理者的头衔；响应方法；响应消息类型；响应定时；代理者或潜在客户的人口统计简档；代理者或潜在客户的组织简档；代理者或潜在客户的心理简档；代理者或潜在客户的社交网络简档；代理者或潜在客户的地理简档；响应频率；响应持续性；以及关于当前事件的数据，并且所述输出分量可以包括以下各项中的一项或更多项：响应代理者的头衔；响应方法；响应消息类型；响应定时；代理者或潜在客户的人口统计简档；代理者或潜在客户的组织简档；潜在客户联系人头衔；代理者或潜在客户的心理简档；代理者或潜在客户的社交网络简档；代理者或潜在客户的地理简档；响应频率；以及响应持续性。

而且，在以上示例中，所述MOD输出决策可以包括两个或更多个相互依赖的输出分量，所述MOD输出决策可以涉及体育、人质谈判、零售、网上购物系统、网络内容管理系统、客户服务、合同谈判或危机管理或者其一定组合，所述方法可以产生多个正确的MOD输出决策，并且所述多个正确的MOD输出决策中的每一个具有相同的输出值或者具有在预定阈值以上的输出值，可以同时地确定所述MOD输出决策中的输出分量的次序。