[发明专利]一种浮点数处理方法及装置有效
| 申请号： | 201510629933.1 | 申请日： | 2015-09-29 |
| 公开（公告）号： | CN105224283B | 公开（公告）日： | 2017-12-08 |
| 发明（设计）人： | 潘昊 | 申请（专利权）人： | 北京奇艺世纪科技有限公司 |
| 主分类号： | G06F7/57 | 分类号： | G06F7/57 |
| 代理公司： | 北京柏杉松知识产权代理事务所(普通合伙)11413 | 代理人： | 马敬,项京 |
| 地址： | 100080 北京市海淀*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明实施例公开了一种浮点数处理方法及装置，方法包括获得第一目标浮点数X和第二目标浮点数Y；获得X与Y的运算法则；判断X和Y是否均不为零；如果X和Y均不为零且X和Y的阶码不相等，则对阶X和Y；将对阶后的X和Y的尾数分别进行分段，并将每段数据转换成单精度浮点数；分别计算X和Y的尾数相应段数据的结果；根据计算得到的每段数据的结果，生成最终的尾数；进而生成计算结果；并对计算结果规格化处理。应用本发明实施例，将高精度的浮点数的尾数进行分段，将每段尾数转化为单精度浮点数进行计算，使得不具备双精度浮点数计算能力的中低端GPU产品具备高精度浮点数的计算能力，提高了中低端GPU产品对高精度浮点数的计算能力。 | ||
| 搜索关键词： | 一种 浮点 处理 方法 装置 | ||
【主权项】：
一种浮点数处理方法，其特征在于，包括：获得第一目标浮点数X和第二目标浮点数Y，其中，X＝2Ex*MX，Y＝2Ey*MY；获得X与Y的运算法则，所述运算法则为加法或减法；判断X和Y是否均不为零；如果X和Y均不为零，则对阶所述第一目标浮点数X和所述第二目标浮点数Y，以使所述第一目标浮点数X和所述第二目标浮点数Y的阶码相同，其中，若Ex≥Ey，则对阶后Y＝2Ex*MY′，若Ex<Ey，则对阶后X＝2Ey*MX′；将对阶后的X和Y的尾数分别进行分段，并将每段数据转换成单精度浮点数；根据获得的运算法则，将X的尾数相应段数据和Y的尾数相应段数据进行运算；根据X的尾数相应段数据和Y的尾数相应段数据的运算结果，生成最终的尾数；根据生成的最终的尾数和对阶后的阶码，生成计算结果；对生成的计算结果规格化处理，得到最终计算结果。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司，未经北京奇艺世纪科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201510629933.1/，转载请声明来源钻瓜专利网。
- 上一篇：一种实现前端代码自动优化的方法及系统
- 下一篇：控制方法、装置及电子设备
