[发明专利]基于高精度取舍方式的误差可控的数据处理系统及方法在审

专利信息
申请号: 201910993935.7 申请日: 2019-10-18
公开(公告)号: CN110908975A 公开(公告)日: 2020-03-24
发明(设计)人: 汪浩 申请(专利权)人: 汪浩
主分类号: G06F16/21 分类号: G06F16/21;G06F16/2458
代理公司: 北京志霖恒远知识产权代理事务所(普通合伙) 11435 代理人: 朱昀
地址: 742500 甘*** 国省代码: 甘肃;62
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 高精度 取舍 方式 误差 可控 数据处理系统 方法
【权利要求书】:

1.一种基于高精度取舍方式的误差可控的数据处理系统,其特征在于:包括输入模块、判断模块、智能取舍模块、计算模块和输出模块;由输入模块向判断模块输入精度要求:即最终需要精确到小数点前/后第几位,有效数字位数:即最终需要几位精确值,然后输入模块的原始数据经由智能取舍模块按照判断模块的要求处理,经由计算模块计算后由输出模块输出;

其中,输入模块为输入原始数据、精度要求或有效数字位数,然后由判断模块判断舍入位数;或直接由操作者输入原始数据及舍入要求,直接进入智能取舍模块,并根据输入情况,选择返回原始值至智能取舍模块,返回精度要求或有效数字位数至判断模块;判断模块根据操作者提供的精度要求或有效数字位数,判断需要进行何种舍入操作;智能取舍模块为对输入数据进行标记、排序等预处理、按照取舍要求对数字进行取舍;计算模块调用计算功能对保留后的数字进行计算;输出模块按照精度要求对计算结果进行取舍,接着输出计算结果。

2.如权利要求1所述的基于高精度取舍方式的误差可控的数据处理系统,其特征在于:判断模块对于乘法的舍入判断如下,若精度要求需要结果精确至nd位,若nd为正值表示精确至小数点后nd位,若nd为负值则表示精确至小数点前|nd|位,若nd=0则表示精确至整数部分,将原数字按照科学计数法记作A1×10x1、A2×10x2、...、Ai×10xi,判断nj=0时,保留位数nk=x1+x2...+xi+nd+i+r;判断nj≠0,nk=x1+x2...+xi+nd+i+nj+r;

对于乘除混合的舍入判断如下,若精度要求结果精确至nd位,将乘数、被除数按科学计数法记作m1×10x1、m2×10x2...mi×10xi,除数记作d1×10Y1、d2×10Y2...dj×10Yj;判断nj=0时,nk=x1+x2...+xi-Y1-Y2...-Yj+i+nd+r;判断nj≠0,nk=x1+x2...+xi-Y1-Y2...-Yj+i+nd+nj+r;

若输入有效数字位数,要求计算结果前nx位为精确值,判断nj=0时,nk=nx+r;判断nj≠0,nk=nx+nj+r;

若参与运算的为加减乘除混合运算时,求得每组乘除运算的nk,并取其中的某个值nki,接着返回nk=nki或按照(64)进行判断;也可按照上述方式分别求得每组乘除运算的nk,并对每组运算分开取舍;

其中nki的取值可根据需要固定也可变化,如存在减法时可取其中最大值等;

若参与运算的原始数字中存在近似值,可按上述方式进行判断,或在按照上述方式判断出nk之后,若nk≤Ny+r,正常返回nk,否则返回nk=Ny+r;

在加法运算中nk=nmax+r;

其中,r为可变值,根据计算精度的要求、运算法则、算数个数取值;

其中Ny为所有近似值中有效数字位数最少的数字的有效数字位数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于汪浩,未经汪浩许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910993935.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top