[发明专利]一种通过矫正迁移模型进行数据迁移的方法及系统有效
申请号: | 202010842358.4 | 申请日: | 2020-08-20 |
公开(公告)号: | CN111984624B | 公开(公告)日: | 2023-08-18 |
发明(设计)人: | 刘晓敏;李苏媛;何京燕;杨海峰 | 申请(专利权)人: | 中国银行股份有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/25 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 谷敬丽;周晓飞 |
地址: | 100818 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 通过 矫正 迁移 模型 进行 数据 方法 系统 | ||
1.一种通过矫正迁移模型进行数据迁移的方法,其特征在于,该方法包括:
导入迁移前的源数据;
对所述源数据进行分块处理,得到分块处理后的数据;
根据所述分块处理后的数据,进行迁移模型预演,得到迁移模型预演数据;其中,迁移模型预演数据是通过快速计算工具得到的数据;
将相同的分块处理后的数据导入迁移模型,输出迁移模型输出数据;
根据所述迁移模型预演数据及迁移模型输出数据,采用预设的比对计算模型计算得到比对结果;
根据设置的阈值,在比对结果中筛选出需要矫正的逻辑映射关系,其中,将所述比对结果大于或等于所述阈值的逻辑映射关系设置为正确,对所述比对结果小于阈值的逻辑映射关系进行矫正;
利用矫正后的迁移模型重新导入数据,得到迁移模型输出数据并重新进行比对,直至比对结果大于或等于所述阈值;
将逻辑映射关系全部正确的迁移模型及对应的迁移模型输出数据进行输出;
其中,根据所述迁移模型预演数据及迁移模型输出数据,采用预设的比对计算模型计算得到比对结果,包括:
根据所述迁移模型预演数据及迁移模型输出数据,将所述迁移模型的每一步映射关系进行分解,得到不可分割的运算关系;
将所述不可分割的运算关系作为比对单元,采用预设的比对计算模型比对全部比对单元,得到每一个比对单元的比对结果。
2.根据权利要求1所述的通过矫正迁移模型进行数据迁移的方法,其特征在于,导入迁移前的源数据,包括:
在首次导入或模型数据量小于预设数据量阈值时,采用随机采集的方式导入源数据;
在数据量大于或等于预设数据量阈值时,采用批量导入的方式导入源数据。
3.根据权利要求1所述的通过矫正迁移模型进行数据迁移的方法,其特征在于,在对所述源数据进行分块处理,得到分块处理后的数据之后,还包括:
判断是否有与本次迁移前的源数据相关联的迁移模型输出数据;
如果有,对所述源数据进行剔除;
将所述相关联的迁移模型输出数据作为输入数据,进行迁移模型预演并将所述输入数据导入迁移模型,得到迁移模型预演数据及迁移模型输出数据并进行比对,根据比对结果矫正迁移模型的逻辑映射关系,得到逻辑映射关系全部正确的迁移模型;
利用所述逻辑映射关系全部正确的迁移模型对所述分块处理后的数据进行数据迁移,输出所述逻辑映射关系全部正确的迁移模型及对应的迁移模型输出数据。
4.根据权利要求1或3所述的通过矫正迁移模型进行数据迁移的方法,其特征在于,该方法还包括:
在得到逻辑映射关系全部正确的迁移模型之后,进行数据去重处理,得到本次迁移模型;
利用本次迁移模型对所述分块处理后的数据进行数据迁移,输出本次迁移模型及对应的迁移模型输出数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国银行股份有限公司,未经中国银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010842358.4/1.html,转载请声明来源钻瓜专利网。