大学物理实验教学中有效数字运算的几点讨论

《大学物理实验教学中有效数字运算的几点讨论》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、大学物理实验教学中有效数字运算的几点讨论【摘要】本文结合笔者多年的教学体会，通过列举实例探讨有效数字运算规则，为初学者加深对有效数字运算规则的认识。【关键词】有效数字;加减法运算;乘除法运算;算术平均值;累积测量大学物理实验课是一门基础课程，是学生进入大学的第一门基础实验课，是后续实验课的基础。这门课程首先介绍测量误差及数据处理的基础知识，其中涉及到有效数字的运算，在许多实验教材中，对有效数字运算仅仅给出运算规则、结论性的规则，没有告诉初学者规则之所以然;而且，有的文献谈及有效数字运算过程中对参与运算的各分量修约到第几位数尽不相同、甚至不修约[1]，运算结果保

2、留几位有效位数说法不统一[2]，使得初学者难以理解，容易混淆，不便记忆。本文通过列举实例讨论有效数字运算几个规则。1几个基本概念和结论（1）对于一组测量数据，其结果可疑数字所在位数越高不确定度越大。（2）对于一组测量数据，其结果有效数字位数越多相对不确定度越小。6（3）测量结果的有效数字位数由不确定度来确定，测量值的最后一位一般要与不确定度的最后一位取齐。（4）当不确定度的首位数字≤3，不确定度的有效数字可取两位;当首位数字大于3时，可只取一位有效数字[3]。（5）间接测量量合成不确定度的两个计算公式：间接测量量N=f（x■，x■，…，x■），其中x■，x■，

3、…，x■为若干直接测量量。则：U■（N）=■，i=1，2，…，n（1）E■（N）=■=■，i=1，2，…，n（2）2有效数字运算规则间接测量结果的得出必须经过有效数字的运算，运算结果中保留的有效数字位数，应当以不确定度传递公式来决定。如果在实验中没有进行不确定度的估算，最后结果的有效位数由算式中不确定度最大的分项来确定。按照有效数字的定义，有效数字最后一位是不确定度所在的位置，为了方便讨论，我们假定所有的数据最后一位都有1的不确定性。2.1加减法运算规则加减运算，以参与运算的各分量中末位数量级最高的量为准，其余各分量在运算过程中均比它的末位多留一位，运算结果与

4、它取齐。例1N=x■-x■+x■+x■，其中x■=71.3cm，x■=0.753cm，x■=6.262cm，x■=271cm，求N。6在x■、x■、x■、x■中，x■的末位数量级最高（在个位上）、不确定度最大，可知N的合成不确定度U■（N）≥1cm，于是，在运算过程中其它各数保留到十分位，运算结果与D取齐。即N=71.3-0.8+6.3+271=347.8=348cm如果先把其余各分量与末位数量级最高的量取齐，运算结果是：N=71-1+6+271=347cm显然，舍去的比进入的大，运算结果变小了，因此，在加减运算过程中其余各分量均比末位数量级最高的量多留一位，

5、运算结果与它取齐。2.2乘除法规则乘除运算，以参与运算的各分量中有效数字位数最少的分量为准，在运算过程中其余各分量（包括常数和无理数）比该量多留一位，运算结果也比该分量多留一位。文献[2]中说到“若结果的第一位数的数值大于有效数字最少的分量的第一位数的数值，就只需取与这个有效数字最少的分量的位数相同;如果结果的第一位数的数值小于有效数字最少的分量的第一位数的数值，就需比这个有效数字最少的分量多留一位”。在计算机和计算器普及的今天，特别是对初学者来说，做任何区分没有必要。笔者认为：“乘除运算结果的有效数字位数比参6与运算的各分量中有效数字位数最少的分量多留一位”

6、是比较保险的，不必再做任何区分了。例2N=■，其中，x■=39.5，x■=4.08437，x■=0.0013，x■=867.8，求N。x■、x■、x■、x■中x■的有效数字位数最少，有两位，相对不确定度最大，则在运算过程中其余各分量及结果取三位，有：N=■=2.41×10■因为N合成不确定度E■=■=0.079，U■（N）=NE■=2.41×10■×0.078=0.19×10■结果写成：N=（2.41±0.19）×10■。例3v=■=2.146因为v的合成不确定度E■=■=0.0025，U■（v）=vE■=2.146×0.0025=0.005结果写成：v=2.

7、146±0.005从例2和例3可以看出，乘除运算结果的有效数字位数比参与运算的各分量中有效数字位数最少的分量多留一位比较保险。2.3对一个物理量进行多次直接测量，其算术平均值的精确度与各测得值的精确度相同，有效数字位数不变例4.用千分尺测量钢球的直径10次，数据如下：6di/mm：11.998，12.005，11.998，12.003，11.997，11.995，12.005，12.003，12.000，12.002。d算术平均值d=12.001mm。如果写成d=12.006mm，无意中提高了仪器的精确度，显然是不可能的，因为千分尺的不确定度就在千分位。2.4

8、对于累积法测量一个物理量的值，其精确度