[发明专利]为算法决定提供结果解释

说明书

提供计算机系统和方法，用于对机器学习系统进行训练，以确定认证决定和与该认证决定对应的解释信息。接收用于第一认证请求的包括第一图像的第一认证信息。接收与第一图像对应并包括第一认证决定和第一解释信息的第一验证信息。机器学习系统的数据存储器保存第一图像和第一验证信息。机器学习系统基于所保存的第一图像和第一验证信息更新认证模型。接收用于第二认证请求的第二认证信息。机器学习系统基于更新了的认证模型确定包括第二解释信息的第二验证信息。向用户设备提供第二解释信息以进行显示。

技术领域

本申请一般地涉及用户认证，更具体地涉及使用机器学习来生成用于分析图像数据的算法的认证。

背景技术

对于很多网络通信和交易，远程用户的识别和验证很重要。对于用户相互不熟悉且彼此远离的敏感通信和重要交易，尤其如此。传统上，个人提交物理身份证件，由代理进行审查，代理将身份证件的面部图像与该个人的物理外观进行比较。然而，常规的识别和验证用户的机制不方便而且效率低下，给用户带来负担。

最近颁布实施的隐私权法规要求向用户提供一种选择，即不受制于完全自动化的工作流程，除非可以向用户提供与自动化工作流程的结果有关的解释。例如，如果由自动化系统决定用户的身份证件对于特定交易是否无效，则该系统需要向用户提供解释，用于解释为什么该用户的身份证件被确定为无效。然而，当涉及到向用户提供可理解的解释时，常规的识别和验证用户的机制通常需要人工干预，这效率低下，且给自动化提供商带来负担。

发明内容

因此，需要有这样的系统和/或设备，其采用更高效、准确和直观的方法，用于对机器学习认证模型进行训练，以不仅分析用于用户认证的图像，还向用户提供对应的认证决定的解释。可选地，这样的系统、设备和方法补充或取代常规的用于分析用户认证的图像的系统、设备和方法。

在一些实施例中，机器学习系统用于生成用于分析图像数据的模型。图像数据包括：例如，身份证件(例如，包含用户图像的身份证件，如护照或其它政府签发的文件)的图像、和/或捕获的用户图像(例如，用户最近的“自拍照”图像)。实施机器学习的计算系统对包括图像数据(例如，大量认证请求中所包括的图像数据)的训练数据集进行分析。机器学习系统用于生成这样的模型：该模型可用于分析新传入的认证请求。在一些实施例中，机器学习系统的监督训练模块使用人工标注的数据来训练认证模型(例如，通过对数据进行迭代分类，将测试数据与人工标记进行比较，并执行优化以将分类错误最小化)。在一些实施例中，机器学习系统的非监督训练模块在不使用用于分类的人工输入的情况下训练认证模型(例如，通过对数据进行编码和聚类以找到潜在的组和离群值)。在一些实施例中，比较对将认证模型应用(例如，通过监督学习和/或非监督学习进行训练)到认证请求数据的集合的结果与对同一认证请求数据的集合进行人工审查的结果，并利用机器学习结果和人工审查结果之间的差异来改变认证模型。在一些实施例中，通过提供图像作为输入，并且通过提供相应的认证决定(例如，欺诈，非欺诈)和原因(例如，被篡改的图像、被拼接的图像、丢失了文本)作为与各图像输入对应的输入标签，对模型进行训练。结果，训练后的模型不仅输出认证决定，而且输出该决定的原因，从而允许用户基本上在接收到该决定的同时接收该解释。