实验数据处理.doc

《实验数据处理.doc》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第一章 数据第一节有效位数   无论是日常生活，还是生产和科学实验，我们经常要面对一些数据。当我们把这些数据记录下来，或进行整理时，首先遇到的问题就是该用几位数字来表示这些数据。您可能认为小数点后面的位数越多，数据越精确，因此不厌其烦地把所有的数字都记录下来。可是，当您进一步整理这些数据的时候，您会发现小数点后面一些毫无价值的数字不仅浪费了您的宝贵时间，也给后面的数据处理带来了麻烦。这里给我们提出了一个问题，我们该记录多少位数字，或者说数据的有效位数该如何确定。   其实，数字的有效位数受测量仪表和测量者的感官功能限制。如果我们记录数字的位数低于这种限制，可能会失去一些有价值的信息。反

2、之，如果高于这种限制，数字所表现出来的精度则是虚假精度。比如，我们通常使用的直尺的最小刻度为1mm。用这样的尺子测量一个物体的长度，我们可以准确地记录下毫米以上的数字，如82mm。此外，对于毫米以下的长度我们可以通过尺子用我们的肉眼进行估测，如0.3mm。这样我们得到的实测数字为82.3mm。在这个数字中，82是可靠的，0.3是估计数。如果换一个人来重复进行这个测量，他得到的可靠数字一定也是82，但是他得到的估计数可能是0.3，也可能是0.4或0.2。   通过这个例子，我们可以建立确定有效位数的方法:   确定有效位数的正确做法是所取位数除末一位数字为测量时的可疑数或估计数外，其余各

3、位数字都是准确可靠的。通常末一位可疑数字上下可以有一个单位的误差。这样的数字称为有效数字。第二节舍入法则   在记录数据的时候，我们常常要对数据进行舍入。我们大家都熟悉的舍入方法是“四舍五入”法。现在，我们一起来分析一下“四舍五入”带来的舍入误差，看看其合理的一面和不合理的一面，以及如何来避免其不合理性，从而帮助我们掌握舍入法则。设某一组数值要保留n位有效位，如果我们按照“四舍五入”法对n+1位进行处理，就必然会产生舍入误差。假设这组数值的第n+1位分别为0～9，则按照“四舍五入”法进行舍入，就会产生如表1-1-1所示的舍入误差ε。显然，舍入误差ε是一个离散型随机变量。   一般情况下

4、，第n+1位数字为0，1，2，3，4，5，6，7，8，9的几率是相等的，如果用大写字母X表示舍入误差，则表1-1-1中出现的各种舍入误差的几率为:　P（X=0,-1,-2,-3,-4,5,4,3,2,1）＝1/10    当我们引入“四舍五入”法时，我们期望在大量的数据舍入处理中，由舍和入产生的误差可以相互抵消。如表1-1-1中的1与-1，2与-2，3与-3，4与-4，在大量数据中，可以认为这些数据舍入误差出现的几率相等，因而在大量数据处理中是可以相互抵消的。但是从表1-1-1可以看出，“四舍五入”法中，当第n+1位是5时，其舍入误差是5,此误差无法抵消。这就是古典的“四舍五入”法的弊

5、端。   其实，只要我们稍动脑筋，这个问题就可以解决。如果我们在使用“四舍五入”法时，人为地将第n+1位是5的舍入误差分为两半，一半舍去，而另一半进入，就可以在大量数据处理中使当第n+1位是5时的舍入误差相抵消。我国科学技术委员会正式颁布了《数学修约规则》，通称为“四舍六入五单双”法则。概括说明如下：   四舍六入五考虑，五后非零必进一。五后皆零视奇偶，五前为偶应舍去，五前为奇则进一。这一法则的具体运用分述如下：   1.若被舍弃的第一位数字小于5，则其前一位保持不变。如，28.2345只取三位有效数字时，其被舍弃的第一位数字为3，小于5，则有效数字应为28.2。   2.若被舍弃的第

6、一位数字大于5，则其前一位数字加1。如，28.2645只取三位有效数字时，其被舍弃的第一位数字是6，大于5,则有效数字应为28.3。   3.若被舍弃的第一位数字等于5，而其后数字全部为零，则视被保留的末位数字为奇数还是偶数而定进或舍。奇数时进一，偶数时舍。如，28.350及28.250，只取三位有效数字时，则分别为28.4及28.2。   4.若被舍弃的第一位数字等于5，而其后面的数字并非全部为零，则进一。如，28.2501,只取三位有效数字时，则进一，成为28.3。   5.若被舍弃的数字包括几位数字时，不得对该数字进行连续的进位或舍弃，而应根据以上各条作一次处理。如，2.1545

7、446，只取三位有效数字时，应为2.15，如果从最后一位对该数字进行连续的处理，则可得到2.16。后者是不容许的。   6.整数的修约也应遵照上述法则。如，23438,只取三位有效数字时，则应为23400或2.34×104。　第三节有效数字的确定   有效数字的确定一方面要考虑测量仪器的精度，应与测量仪器的精度相一致。另一方面还要考虑有效数字的运算要求。有效数字的计算，应遵循“先进舍，后运算”的原则，因此在计算前需按照以下“修约规则”对数字进行