单精度和双精度的区别

《单精度和双精度的区别》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、单精度和双精度的区别单精度和双精度数值类型最早出现在C语言中（比较通用的语言里面），在C语言中单精度类型称为浮点类型（Float），顾名思义是通过浮动小数点来实现数据的存储。这两个数据类型最早是为了科学计算而产生的，他能够给科学计算提供足够高的精度来存储对于精度要求比较高的数值。但是与此同时，他也完全符合科学计算中对于数值的观念： 当我们比较两个棍子的长度的时候，一种方法是并排放着比较一下，一种方法是分别量出长度。但是事实上世界上并不存在两根完全一样长的棍子，我们测量的长度精度受到人类目测能力和测量工具精度的限制。从这个意义上来说，判断两根棍子是否一样长丝毫没有意

2、义，因为结果一定是False，但是我们可以比较他们两个哪个更长或者更短。这个例子很好地概括了单精度/双精度数值类型的设计初衷和存在意义。 基于上述认识，单精度/双精度数值类型从一开始设计的时候，就不是一个准确的数值类型，他只保证在他这个数值类型的精度之内是准确的，精度之外则不保证，比方说，一个数值5.1，很可能存储在单精度/双精度数值中的实际值是5.100000000001或者5.09999999999999。导致这个现象的原因我们可以通过两种方式来解释： 简单的解释方法： 你可以尝试在任何一个控件的属性面板中，设定他的宽度为：3.2CM，当你输入完毕后，你会发现

3、值自动变成了3.199cm，无论你怎么改，你都无法输入3.200CM，因为实际上在电脑中存储的并不是CM为单位的数值，而是“缇”为单位的数值，而“缇”和CM之间的比值，是个很难被除尽的数，因此你输入完毕后，电脑自动转换成了最接近的“缇”值，然后再转换成厘米显示到属性面板上，这一乘一除，两次四舍五入，误差就出来了。单精度/双精度也是类似的原理，其实在二进制存储的时候，单精度/双精度都采用了类似相近分数的方法，而这样的存储是不可能做到准确的。 深入的解释方法： 让我们来看看我们存储到数字介质中的单精度/双精度值到底是怎么样的，我们使用如下代码对单精度类型进行一个解剖：

4、 PublicDeclareSubCopyMemoryLib"kernel32"Alias"RtlMoveMemory"(DestinationAsAny,SourceAsAny,ByValLengthAsLong) PublicSubfloatTest() DimdblVarAsSingle dblVar=5.731/8 dblOutputdblVar dblVar=dblVar*2 dblOutputdblVar dblVar=dblVar*2 dblOutputdblVar dblVar=dblVar*2 dblOutputdblVar dblVar=dbl

5、Var*2 dblOutputdblVar dblVar=dblVar*2 dblOutputdblVar EndSub PublicSubdblOutput(ByValdblVarAsSingle) DimbytVar(3)AsByte DimiAsInteger,jAsInteger DimstrVarAsString CopyMemoryByValVarPtr(bytVar(0)),ByValVarPtr(dblVar),4 strVar=dblVar&":" Fori=3To0Step-1 Forj=7To0Step-1 strVar=strVar&(by

6、tVar(i)And2^j)/2^j Nextj strVar=strVar&"" Nexti Debug.PrintstrVar EndSub 运行后我们得到输出结果（输出格式为高位左，低位右）： .716375:00111111001101110110010001011010 1.43275:00111111101101110110010001011010 2.8655:01000000001101110110010001011010 5.731:01000000101101110110010001011010 11.462:01000001001101110

7、110010001011010 22.924:01000001101101110110010001011010 这里，我们把单精度类型转化成了二进制数据输出，这里我们看到，虽然这六个数字完全不同，但是他们的二进制存储惊人地相似，我们看到红色标记部分，每次都是加1，事实上，单精度数据类型使用从高位开始第1位作为正负标记位（绿色），第2位到第9位，是一个跨字节的有符号字节类型数据，这个数值决定了小数点移动的方向和位数（红色），第10位到32位保存一个整数（蓝色）在存储过程中，电脑首先把输入的值不断移位（乘除2）直到这个数的整数部分占用了全部24位的整数位，然后把移动的

8、位数写入浮