[发明专利]在机器学习平台中进行行为审计的方法和系统

说明书

提供了一种在机器学习平台中进行行为审计的方法和系统。所述方法包括：响应于指示执行与机器学习平台中的功能相关的操作的用户行为，执行所述操作并保存相应的操作数据记录；响应于接收到用于显示审计页面的用户命令，在屏幕上显示审计页面，其中，审计页面包括与保存的操作数据记录相应的审计内容；响应于接收到检索满足特定条件的操作数据记录的用户命令，在保存的操作数据记录中检索满足所述特定条件的操作数据记录，并将与检索到的操作数据记录相应的审计内容显示在审计页面上。

技术领域

本公开总体说来涉及人工智能领域，更具体地讲，涉及一种在机器学习平台中进行行为审计的方法和系统。

背景技术

随着人工智能技术的发展，已经能够开发出提供机器学习相关功能的产品以供企业或个人利用提供的产品执行机器学习。然而，大部分企业提供的机器学习产品均是直接通过开源框架来提供，而并没有任何行为审计能力(例如，用户行为审计能力)，而这使得对于安全性或稳定性要求较高的用户由于此类产品无法提供对机器学习中的涉及的各种行为进行审计的功能而放弃对其的购买，或者即使已经购买了此类产品也由于行为审计功能的缺乏而造成较差的用户体验。鉴于此，需要能够在机器学习平台中进行行为审计的方法和系统。

发明内容

根据本公开的示例性实施例，提供了一种在机器学习平台中进行行为审计的方法，所述方法可包括：响应于指示执行与机器学习平台中的功能相关的操作的用户行为，执行所述操作并保存相应的操作数据记录；响应于接收到用于显示审计页面的用户命令，在屏幕上显示审计页面，其中，审计页面包括与保存的操作数据记录相应的审计内容；响应于接收到检索满足特定条件的操作数据记录的用户命令，在保存的操作数据记录中检索满足所述特定条件的操作数据记录，并将与检索到的操作数据记录相应的审计内容显示在审计页面上。

可选地，与保存的操作数据记录相应的审计内容可包括以下项中的至少一项：保存的操作数据记录中的至少一些操作数据记录本身、根据保存的操作数据记录中的至少一些操作记录产生的审计条目、根据保存的操作数据记录中的至少一些操作记录产生的分析数据。

可选地，根据保存的操作数据记录中的至少一些操作记录产生的分析数据可包括以下项中的至少一项：根据保存的操作数据记录中的至少一些操作记录产生的不同操作的统计图表、用户行为日志概述和用户行为分析图。

可选地，与检索到的操作数据记录相应的审计内容可包括与检索到的操作数据记录相应的审计条目或针对与检索到的操作数据记录相应的每个用户按照时间轴形式展示的操作行为拓扑图。

可选地，与检索到的操作数据记录相应的审计条目是通过抽取检索到的操作数据记录中与预先设置的期望展示的审计项目对应的属性字段而获得的；或者，与检索到的操作数据记录相应的审计条目是通过对检索到的操作数据记录中与预先设置的期望展示的审计项目对应的信息进行处理而获得的。

可选地，与检索到的操作数据记录相应的审计条目可根据用户行为对应的行为危害等级、操作数据记录中被设置作为排序字段的属性字段的取值和用户历史偏好的条目展示习惯之中的至少一项被排序。

可选地，所述方法还可包括：响应于接收到选择特定审计条目的用户命令，以插入方式显示与所述特定审计条目有关的当前未被显示的审计项目或者以弹出窗口显示当前未被显示的审计项目。

可选地，以插入方式显示当前未被显示的审计项目可包括：在所述特定审计条目的下方以区别于所述特定审计条目的显示方式插入当前未被显示的审计项目。

可选地，所述方法还可包括：在显示与检索到的操作数据记录相应的审计条目的同时或者在显示当前未被显示的审计项目的同时，显示用于针对审计条目添加备注的备注按钮，响应于备注按钮被选择，根据用户的输入添加针对审计条目的备注。