[发明专利]数值处理方法和装置在审

专利信息
申请号: 201810662249.7 申请日: 2018-06-25
公开(公告)号: CN108920405A 公开(公告)日: 2018-11-30
发明(设计)人: 马玄玄 申请(专利权)人: 郑州云海信息技术有限公司
主分类号: G06F15/02 分类号: G06F15/02;G06F17/30
代理公司: 北京安信方达知识产权代理有限公司 11262 代理人: 白天明;解婷婷
地址: 450018 河南省郑州市*** 国省代码: 河南;41
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 换算结果 小数 换算 下级 余数 方法和装置 数值处理 取整运算 模运算 预设 相加
【说明书】:

发明公开了数值处理方法和装置。其中,用于将上级单位的数值换算成下级单位的数值的方法包括:将上级单位的数值分成整数部分和小数部分,然后将整数部分乘以换算率,得出第一整数换算结果;并且将小数部分乘以换算率,得出第一小数换算结果,使第一小数换算结果取整数,得出第二小数换算结果;以及使第一整数换算结果与第二小数换算结果相加,得到上级至下级换算结果。用于将下级单位的数值换算成上级单位的数值的方法包括:根据换算率,对下级单位的数值进行取整运算,得出第三整数换算结果;采用换算率对下级单位的数值进行模运算,以得到余数,采用余数除以换算率,得出第三小数换算结果,进而得出位数不多于预设的位数的第四小数换算结果。

技术领域

本发明涉及信息技术,尤指数值处理方法和装置。

背景技术

在虚拟机项目中,在界面编辑时经常遇到类似于内存单位换算的问题(例如,从下级单位的数值(诸如,MB)向上级单位的数值(诸如,GB)换算,需除以下级单位的数值和上级单位的数值之间的换算率(对于MB和GB来说,换算率为1024);而从上级单位的数值(诸如,GB)向下级单位的数值(诸如,MB)换算则需要乘以换算率。在现有的一些厂商提供的系统中,将数值和数值的单位一起存储在数据库;然而另外一些数据库不能存储数值的单位且数据库存储的数值只能是整数数值,会使得难以得出换算前后的不同级别的单位的数值。

发明内容

为了解决上述技术问题,本发明提供了数值处理方法和装置,其可以在数据库不能存储数值的单位且数据库只能存储整数数值的情况下得出不同级别的单位的数值。

一方面,本发明的实施例提供了一种数值处理方法,用于将上级单位的数值换算成下级单位的数值,该方法包括:

根据上级单位的数值和下级单位的数值之间的级差,确定上级单位的数值和下级单位的数值之间的换算率;

将上级单位的数值分成整数部分和小数部分,然后将整数部分乘以换算率,得出第一整数换算结果;并且将小数部分乘以换算率,得出第一小数换算结果,以舍入小数的方式使第一小数换算结果取整数,得出第二小数换算结果,保存小数部分与第二小数换算结果的对应关系;以及

使第一整数换算结果与第二小数换算结果相加,得到上级至下级换算结果。

本发明实施例的有益效果在于,通过将上级单位的数值分成整数部分和小数部分,并且以换算率分别乘以整数部分和小数部分,再以舍入小数的方式使小数部分的乘积取整,从而得出换算成的下级单位的数值;因此,可以在数据库不能存储数值的单位且数据库只能存储整数数值的情况下得出不同级别的单位的数值。

进一步地,在一个可选的实施例中,在得到上级至下级换算结果的步骤之后,该方法还包括:

采用换算率对上级至下级换算结果进行模运算,以得到上级至下级换算余数,根据小数部分与第二小数换算结果的对应关系,得出余数所对应的小数部分;以及

采用换算率对上级至下级换算结果进行取整运算,以得出上级至下级换算倍数;以及

同时输出余数所对应的小数部分以及上级至下级换算倍数。

本发明的可选的实施例的有益效果在于,通过使用换算结果的对应关系,可以得出余数所对应的小数部分;此时,可以同时输出小数部分以及作为整数的换算倍数,同时输出的这两部分就是回显的数值。

另一方面,本发明的实施例提供了一种数值处理方法,用于将下级单位的数值换算成上级单位的数值,该方法包括:

根据上级单位的数值和下级单位的数值之间的级差,确定上级单位的数值和下级单位的数值之间的换算率;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于郑州云海信息技术有限公司,未经郑州云海信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810662249.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top