浮点数在内存中的存储方式

浮点数在内存中的存储方式

ID:34479825

大小:41.43 KB

页数:11页

时间:2019-03-06

浮点数在内存中的存储方式_第1页
浮点数在内存中的存储方式_第2页
浮点数在内存中的存储方式_第3页
浮点数在内存中的存储方式_第4页
浮点数在内存中的存储方式_第5页
资源描述:

《浮点数在内存中的存储方式》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库

1、浮点数在内存中的存储方式任何数据在内存中都是以二进制的形式存储的,例如一个short型数据1156,其二进制表示形式为0000010010000100。则在IntelCPU架构的系统中,存放方式为 10000100(低地址单元)00000100(高地址单元),因为IntelCPU的架构是小端模式。但是对于浮点数在内存是如何存储的?目前所有的C/C++编译器都是采用IEEE所制定的标准浮点格式,即二进制科学表示法。      在二进制科学表示法中,S=M*2^N主要由三部分构成:符号位+阶码(N)+尾数(M)。对于float型数据,其二进制有32位,其中符号位1位,阶码8位,尾数

2、23位;对于double型数据,其二进制为64位,符号位1位,阶码11位,尾数52位。        31    30-23   22-0float   符号位  阶码    尾数        63    62-52   51-0double  符号位  阶码    尾数符号位:0表示正,1表示负阶码:这里阶码采用移码表示,对于float型数据其规定偏置量为127,阶码有正有负,对于8位二进制,则其表示范围为-128-127,double型规定为1023,其表示范围为-1024-1023。比如对于float型数据,若阶码的真实值为2,则加上127后为129,其阶码表示形式为1

3、0000010尾数:有效数字位,即部分二进制位(小数点后面的二进制位),因为规定M的整数部分恒为1,所以这个1就不进行存储了。下面举例说明:float型数据125.5转换为标准浮点格式125二进制表示形式为11111012∟125余1,小数部分表示为二进制为1,则125.5二进制表示为1111101.1,由于规定尾数的整数部分恒为1,则表示为1.1111011*2^6,阶码为6,加上127为133,则表示为10000101,而对于尾数将整数部分1去掉,为1111011,在其后面补0使其位数达到23位,则为11110110000000000000000则其二进制表示形式为0100

4、0010111110110000000000000000,则在内存中存放方式为:00000000  低地址000000001111101101000010  高地址而反过来若要根据二进制形式求算浮点数如01000010111110110000000000000000由于符号为为0,则为正数。阶码为133-127=6,尾数为11110110000000000000000,则其真实尾数为1.1111011。所以其大小为1.1111011*2^6,将小数点右移6位,得到1111101.1,而1111101的十进制为125,0.1的十进制为1*2^(-1)=0.5,所以其大小为125.

5、5。同理若将float型数据0.5转换为二进制形式0.5的二进制形式为0.1,由于规定正数部分必须为1,将小数点右移1位,则为1.0*2^(-1),其阶码为-1+127=126,表示为01111110,而尾数1.0去掉整数部分为0,补齐0到23位00000000000000000000000,则其二进制表示形式为00111111000000000000000000000000由上分析可知float型数据最大表示范围为1.11111111111111111111111*2^127=3.4*10^38对于double型数据情况类似,只不过其阶码为11位,偏置量为1023,尾数为52

6、位。定点数与浮点数区别最近做HDR时,经常要用NV提供的16位纹理,它的说明书16位能达到24位的精度,就很奇怪?一直搞不懂浮点数的精度怎么算的?今天认真看了一下IEEEfloatpoint的标准,终于明白是什么了1.什么是浮点数在计算机系统的发展过程中,曾经提出过多种方法表达实数。典型的比如相对于浮点数的定点数(FixedPointNumber)。在这种表达方式中,小数点固定的位于实数所有数字中间的某个位置。货币的表达就可以使用这种方式,比如99.00或者00.99可以用于表达具有四位精度(Precision),小数点后有两位的货币值。由于小数点位置固定,所以可以直接用四位数

7、值来表达相应的数值。SQL中的NUMBER数据类型就是利用定点数来定义的。还有一种提议的表达方式为有理数表达方式,即用两个整数的比值来表达实数。定点数表达法的缺点在于其形式过于僵硬,固定的小数点位置决定了固定位数的整数部分和小数部分,不利于同时表达特别大的数或者特别小的数。最终,绝大多数现代的计算机系统采纳了所谓的浮点数表达方式。这种表达方式利用科学计数法来表达实数,即用一个尾数(Mantissa),一个基数(Base),一个指数(Exponent)以及一个表示正负的符号来表达实数。比如12

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。