[发明专利]一种提供完整性验证的可审计外包机器学习服务方法

说明书

本发明通过一种提供完整性验证的可审计外包机器学习服务方法，设置外包机器学习服务审计过程和承诺‑证明协议，所述外包机器学习服务审计过程用于实现机器学习模型训练过程的完整性保证，检测错误行为，实现过程包括计算阶段，服务端保存额外的辅助信息；验证阶段，服务器根据指定的机器学习算法和参数训练预测模型，训练后客户端随机抽取部分迭代子集作为挑战，服务端生成相应的证明，如果所有证明都能通过验证算法，客户端认为服务器已正确执行学习任务，进行支付阶段；所述承诺‑证明协议，用于在高效训练机器学习模型时，通过采样证明大量循环迭代来避免验证全部计算。

技术领域

本发明属于人工智能领域，尤其涉及一种提供完整性验证的可审计外包机器学习服务方法。

背景技术

现如今机器学习技术已被广泛应用于诸多领域。由于机器学习频繁地处理大量数据，特别是在模型训练阶段，服务端需要具备很强的计算能力。因此，机器学习即服务(Machine Learning as a Service,以下简称MLaaS)已经成为一种很有前景的服务范式，它使弱小的客户端能够在强大的云设施中训练模型或计算预测。但现在MLaas实践仍存在一些隐患，为了更广泛的应用，机器学习即服务必须满足以下三条关键条件：一是服务的正确性，客户端需要确保服务提供者完成的学习任务必须按预期工作；二是可信赖的账单，现有的商业化机器学习服务平台均根据消耗掉的计算资源计算账单。缺乏完全透明度的情况下就需要保证服务提供者声称的资源消耗确实与实际工作量相符；三是公平付款，客户在付款之前不应获得任何关于最终结果的信息，需保证客户的付款和MLaaS结果之间的公平。

若缺失上述的保证，不诚信的服务提供者可能会提供执行错误的结果，或部分训练过的模型，并要求超额的报酬。考虑到可能会存在一些复杂且具有经济动机的攻击，例如恶意服务端可能会虚构迭代次数或提供具有更少参数的简单模型，验证结果的准确性和可靠的账单核算是至关重要的。

可验证的计算技术(VC)通常用于在不需要重新执行的情况下验证一个函数的正确性，以往的研究主要集中在三个主流：认证数据结构(ADS)、交互式证明(IP)和简洁的非交互式知识论证(SNARK)。与前两种相比，SNARK将任意多项式大小的函数转化成电路，从而生成一个简短的证明，这一点使得它很适用于弱的用户。并且SNARK支持零知识证明，具有丰富的表现力，同时由于强大的云计算，可以缓解证明者端的高成本问题。

利用区块链来确保公平问题被广泛研究，大多数研究通过规定时间的承诺和乱码电路实现多方计算的公平性。到目前为止，零知识或有支付(ZKCP)作为一种解决方案被接受，它使用零知识证明来确保交易的公平性。但现有的研究都只关注与如何证明多方计算中卖方是否真的持有一些关键信息，但并没有确保其正确性。

可验证计算技术(VC)能够验证一个确定性函数的输出，正适合于解决这类问题。然而在机器学习服务中直接调用可验证计算技术(VC)却不能实现如上提到的几点关键需求。首先，服务端的训练结果需显示给客户端以验证结果的正确性，即直接调用可验证计算技术(VC)仍然违反公平交易的前提。其次，由于机器学习算法包含大量的训练迭代和输入变量，直接使用可验证计算技术是十分低效的。此外，学习算法中的非线性函数计算对可验证计算技术也难以实现。

发明内容

本发明针对现有技术的不足，提供一种提供完整性保证的可审计机器学习方案。

本发明技术方案为一种提供完整性验证的可审计外包机器学习服务方法，设置外包机器学习服务审计过程和承诺-证明协议，

所述外包机器学习服务审计过程，用于实现机器学习模型训练过程的完整性保证，检测错误行为，不仅确保客户端在不可信的服务端上正确执行学习任务，而且确保服务提供者所声称的资源消耗与实际工作负载相对应；实现过程如下，

计算阶段，服务端保存额外的辅助信息，实现使训练过程可检索的目的，服务端执行机器学习任务；