[发明专利]一种数据纠偏方法、装置和设备有效
申请号: | 202310825987.X | 申请日: | 2023-07-07 |
公开(公告)号: | CN116595336B | 公开(公告)日: | 2023-09-08 |
发明(设计)人: | 李常宝;顾平莉;王书龙;袁媛;李茜 | 申请(专利权)人: | 中国电子科技集团公司第十五研究所 |
主分类号: | G06F18/20 | 分类号: | G06F18/20;G06F18/10;G06F16/23;G06N5/01 |
代理公司: | 北京启焱知识产权代理有限公司 11894 | 代理人: | 崔建丽 |
地址: | 100083 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 纠偏 方法 装置 设备 | ||
1.一种数据纠偏方法,其特征在于,所述方法包括:
基于用户输入的判断结果,对白名单、和/或规则库进行更新,获得更新的白名单、和/或更新的规则库,所述用户输入为基于结构化数据的输入,所述白名单至少包括:key、value及用户信息;
当所述更新的白名单中包括的所述用户修改操作数大于等于第一预设阈值时,则基于所述更新的白名单、和/或所述更新的规则库进行样本库的更新,获得更新的样本库;
基于所述更新的样本库,对修正模型进行重训,获得新修正模型;
基于所述新修正模型的准确率及所述修正模型的准确率,确定上线模型;
若所述上线模型为所述新修正模型,则基于所述上线模型,对基于所述修正模型和原模型获得的识别结果进行修正。
2.如权利要求1所述的数据纠偏方法,其特征在于,所述基于用户输入的判断结果,对白名单、和/或规则库进行更新,获得更新的白名单、和/或更新的规则库,具体包括:
若所述用户输入为确认后的key-value记录集合,则将所述确认后的key-value记录集合加入所述白名单中,对所述白名单进行更新,获得所述更新的白名单;
和/或
若所述用户输入为针对符合特征的key直接指定value值,则将针对符合特征的key直接指定value值的规则加入所述规则库,获得所述更新的规则库;
和/或
若所述用户输入为给定key,查询并输出对应的value值,则基于预设的优先级,确定所述给定key的value值;
若所述用户输入为针对输出结果的修改或确认操作,则基于所述修改操作,更新所述白名单或者更新所述规则库,或者基于所述确认操作,更新所述白名单,获得所述更新的白名单。
3.如权利要求2所述的数据纠偏方法,其特征在于,所述若所述用户输入为给定key,查询并输出对应的value值,则基于预设的优先级,确定所述给定key的value值,具体包括:
基于用户输入的给定key,查询所述白名单,若所述给定key命中所述白名单,则将所述白名单中key对应的value值作为所述给定key的value值;
若未命中所述白名单,则查询所述规则库,若所述给定key命中所述规则库,则基于所述规则库计算所述给定key的value,作为所述给定key的value值;
若所述给定key未命中所述规则库,则调用原模型计算获得value1,调用修正模型计算获得value2,若value1==value2,输出value=value1;
否则,
基于所述给定key,从所述白名单中标记为修改的子集中检索相似度最高的记录result,基于所述给定key与所述result.key的向量余弦距离,确定所述给定key的输出value。
4.如权利要求2所述的数据纠偏方法,其特征在于,所述若所述用户输入为针对输出结果的修改或确认操作,则基于所述修改操作,更新所述白名单或者更新所述规则库,或者基于所述确认操作,更新所述白名单,具体包括:
若所述用户输入为针对输出结果的修改,则确认所述用户输入是否在所述白名单中,若所述用户输入在所述白名单中,则更新所述白名单中修改后的value,若所述用户输入不在所述白名单中,并将所述用户输入的key-value添加到所述白名单中,并标注所述白名单中用户输入的key-value的添加途径;若所述用户输入的key-value命中所述规则库的,则将所述规则库中的命中规则错误记录+1,若所述规则库中的命中规则错误记录大于等于第二预设阈值,则将所述规则库中的命中规则移除所述规则库;
若所述用户输入为针对输出结果的确认,且所述用户输入的key-value不在所述白名单中,则将所述用户输入的key-value添加到所述白名单中,并标注所述白名单中用户输入的key-value的添加途径。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国电子科技集团公司第十五研究所,未经中国电子科技集团公司第十五研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310825987.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置