[发明专利]一种模型监控方法、装置和电子设备在审
申请号: | 202011154013.6 | 申请日: | 2020-10-26 |
公开(公告)号: | CN112015711A | 公开(公告)日: | 2020-12-01 |
发明(设计)人: | 李达;丁楠;苏绥绥 | 申请(专利权)人: | 北京淇瑀信息科技有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/16;G06F17/18;G06Q10/06 |
代理公司: | 北京清诚知识产权代理有限公司 11691 | 代理人: | 乔东峰 |
地址: | 100012 北京市朝阳*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 模型 监控 方法 装置 电子设备 | ||
1.一种模型监控方法,其特征在于,包括:
获取单个模型每天的指标数据;
将所述单个模型每天的指标数据存储到分布式文件系统的对应位置,并控制所述分布式文件系统对任意数量模型在预设的时间段内的指标数据自动汇总得到汇总后的指标数据;
从所述分布式文件系统中调用所述汇总后的指标数据,并根据所述汇总后的指标数据对相应的模型进行监控。
2.根据权利要求1所述的方法,其特征在于,所述获取单个模型每天的指标数据,进一步包括:
获取单个模型每天的PSI指标、KS指标及AUC指标。
3.根据权利要求2所述的方法,其特征在于,所述获取单个模型每天的PSI指标、KS指标及AUC指标,进一步包括:
对单个模型中的样本进行等频分箱;
获取所述模型的样本指标,所述样本指标包括:该模型的分箱值、每个箱的总样本量、每个箱的好样本量及每个箱的坏样本量;
根据所述样本指标计算每个箱中样本的PSI值、KS值及AUC值;
根据每个箱中样本的PSI值、KS值及AUC值计算该模型的指标数据。
4.根据权利要求3所述的方法,其特征在于,所述根据每个箱中样本的PSI值、KS值及AUC值计算该模型的指标数据,进一步包括:
对每个箱中样本的PSI值求和得到该模型的PSI指标数据;
分别计算每个箱的好样本与坏样本的累计分布的差值作为每个箱的KS值,取其中最大的KS值作为该模型的KS指标数据。
5.根据权利要求1所述的方法,其特征在于,所述将所述单个模型每天的指标数据存储到分布式文件系统的对应位置,并控制所述分布式文件系统对任意数量模型在预设的时间段内的指标数据自动汇总得到汇总后的指标数据,进一步包括:
对每个模型设定标签并关联到所述分布式文件系统对应的存储位置;
控制所述分布式文件系统对预设标签的模型在预设的时间段内的指标数据进行汇总。
6.根据权利要求2所述的方法,其特征在于,所述从所述分布式文件系统中调用所述汇总后的指标数据,并根据所述汇总后的指标数据对相应的模型进行监控,进一步包括:
从所述分布式文件系统中调用并监控单个模型在预设时间段内的指标数据;
从所述分布式文件系统中调用并监控任意数量的模型每天的指标数据。
7.根据权利要求6所述的方法,其特征在于,所述从所述分布式文件系统中调用并监控单个模型在预设时间段内的指标数据,进一步包括:
从所述分布式文件系统中调用该模型在预设时间段内的PSI指标、KS指标及AUC指标的变化趋势,并以图表形式展示。
8.一种模型监控装置,其特征在于,包括:
数据获取模块,用于获取单个模型每天的指标数据;
控制模块,用于将所述单个模型每天的指标数据存储到分布式文件系统的对应位置,并控制所述分布式文件系统对任意数量模型在预设的时间段内的指标数据自动汇总得到汇总后的指标数据;
数据检测模块,用于从所述分布式文件系统中调用所述汇总后的指标数据,并根据所述汇总后的指标数据对相应的模型进行监控。
9.一种电子设备,其中,该电子设备包括:
处理器;以及,
存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行根据权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现权利要求1-7中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京淇瑀信息科技有限公司,未经北京淇瑀信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011154013.6/1.html,转载请声明来源钻瓜专利网。