[发明专利]模型行为可解释性方法、系统、介质及设备在审
| 申请号： | 202111297506.X | 申请日： | 2021-11-04 |
| 公开（公告）号： | CN114021718A | 公开（公告）日： | 2022-02-08 |
| 发明（设计）人： | 王思宽;李晓雅;卢辰鑫;何豪杰;王铎;卜贺纯 | 申请（专利权）人： | 北京香侬慧语科技有限责任公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06F11/36 |
| 代理公司： | 北京国科程知识产权代理事务所(普通合伙) 11862 | 代理人： | 曹晓斐 |
| 地址： | 100080 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了一种模型行为可解释性方法、系统、介质及设备，属于神经网络模型技术领域。该方法包括：根据模型预测结果，确定测试样本中各个测试单元对预测结果的贡献度；对贡献度进行排序，根据贡献度的排序结果选取第一预设数量的测试单元作为解释单元；分别计算训练集中各个训练样本与解释单元的相关度；对相关度进行排序，根据相关度的排序结果选取第二预设数量的训练样本作为解释样本。该方法通过获取与训练结果相关的解释单元和解释样本，对神经网络模型的输出结果进行解释，联合训练和测试阶段解释模型行为的神经网络可解释性方案，形成从训练数据到输入测试样本再到模型预测结果的推理解释链路，更好地解释模型行为。 | ||
| 搜索关键词： | 模型 行为 解释性 方法 系统 介质 设备 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京香侬慧语科技有限责任公司，未经北京香侬慧语科技有限责任公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111297506.X/，转载请声明来源钻瓜专利网。
