[发明专利]算法校验方法、算法确权方法及装置

说明书

本申请公开了一种算法校验方法、算法确权方法及装置。通过将应用系统中运行的算法的每一项算法信息，与获取的解密后的用于对比的算法信息进行比较，得到每一项算法信息的比较结果，根据该比较结果，可以确定应用系统中运行的算法是否被篡改，从而可以实现对算法的监管，监控运行过程中算法的执行代码是否被恶意篡改。通过根据应用系统中的算法的算法信息生成的数字身份签名，获取算法的权能构成与权利信息，利用该权能构成与权利信息对应用系统中运行的算法进行确权，从而实现算法的确权。

技术领域

本申请涉及人工智能(artificial intelligence，AI)领域，尤其涉及一种算法校验方法、算法确权方法及装置。

背景技术

通常情况下，AI应用系统对AI算法的执行代码采用中心化方式进行集中管理，难以监控系统运行过程中AI算法的执行代码是否被恶意篡改。此外，多数AI应用系统对其中运行的AI算法的合法性监管从正确性角度进行，即：验证有限的特定输入对应的算法输出与预期输出是否一致，缺乏对AI算法内部逻辑的细颗粒度审核，难以实现AI算法的溯源、追责。

发明内容

本申请提供一种算法校验方法及装置，以实现对算法的监管，监控运行过程中算法的执行代码是否被恶意篡改。

第一方面，提供了一种算法校验方法，所述方法包括：

提取应用系统中运行的算法的算法信息，所述算法信息包括以下至少一项：运行逻辑、静态信息和动态信息；

获取用于对比的算法信息并解密；

针对应用系统中运行的所述算法的每一项算法信息，与解密后的用于对比的算法信息进行比较，得到每一项算法信息的比较结果；

根据所述每一项算法信息的比较结果，确定所述应用系统中运行的所述算法是否被篡改。

在一个实现中，所述方法还包括：

提取发布的算法的算法信息，所述算法信息包括以下至少一项：运行逻辑、静态信息和动态信息；

将所述算法信息加密保存，作为所述用于对比的算法信息。

在又一个实现中，所述提取发布的算法的算法信息，包括：

从所述发布的算法的可执行代码或计算公式中提取所述算法的运行逻辑结构图，得到所述算法的运行逻辑；

提取所述发布的算法的至少一个静态信息；

根据输入的测试数据，获取所述发布的算法的中间结果、最终结果，作为所述算法的动态信息。

在又一个实现中，所述将所述算法信息保存，包括：

确定对所述算法信息的加工处理方式，所述加工处理方式包括以下至少一种：无任何处理、哈希处理、加密处理；

根据所述确定的加工处理方式对所述发布的算法的运行逻辑、每一个静态信息、每一个动态信息分别进行加工处理；

将所述加工处理后的算法的运行逻辑、每一个静态信息、每一个动态信息保存。

在又一个实现中，所述获取用于对比的算法信息，包括：

获取所述加工处理后的所述发布的算法的运行逻辑、每一个静态信息和/或每一个动态信息；

若所述发布算法时选择的加工处理方式包含加密处理，则对所述加工处理后的算法运行逻辑、每一个静态信息和/或每一个动态信息进行解密，得到所述发布算法的用于对比的运行逻辑、每一个静态信息和/或每一个动态信息。

在又一个实现中，所述针对应用系统中运行的所述算法的每一项算法信息，与所述解密后的用于对比的算法信息进行比较，得到每一项算法信息的比较结果，包括：