有效数字及其运算规则91747.doc

有效数字及其运算规则91747.doc

ID:59206279

大小:155.50 KB

页数:4页

时间:2020-10-30

有效数字及其运算规则91747.doc_第1页
有效数字及其运算规则91747.doc_第2页
有效数字及其运算规则91747.doc_第3页
有效数字及其运算规则91747.doc_第4页
资源描述:

《有效数字及其运算规则91747.doc》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、有效数字及其运算规则一、测量结果的有效数字1.有效数字的定义及其基本性质测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。有效数字具有以下基本特性:(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不同的。例如用千分尺(最小分度值,)测量某物体的长度读数为。其中前三位数字“”是最小分度值的整数部分,是可靠数字;末位“”是在最小分度值内估读的数字,为可疑数字;它与千分尺的在同一数位上,所以该测量值有四位数字。如果改用最小分度值(游标精度)为的游标卡尺来测

2、量,其读数为,测量值就只有三位有效数字。游标卡尺没有估读数字,其末位数字“”为可疑数字,它与游标卡尺的也是在同一数位上。(2)有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。2.有效数字与不确定度的关系在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不确定度所在的那一位对齐。如,测量值的末位“”刚好与不确定度的“”对齐。由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值的不确定度(或误差限值)。测量值的有效数字位数越多,测量的相对不确定度越小;有效位数越少,相对不确定度就越大。

3、3.数值的科学表示法二、有效数字的运算规则1.数值的舍入修约原则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则如下:(1)拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。(2)拟舍弃数字的最左一位数字大于5,或者是5而其后跟有并非0的数字时,则进1,即保留的末位数字加1。(3)拟舍弃数字的最左一位数字为5,而5的右边无数字或皆为0时,若所保留的末位数字为奇数则进1,为偶数或0则舍去,即“单进双不进”。上述规则也称数字修约的偶数规则,即“四舍六入五凑偶”规则。根据上述规则,要将

4、下列各数据保留四位有效数字,舍入后的数据为:;;;;;对于测量结果的不确定度的有效数字,本课程规定采取只进不舍的规则。2.有效数字运算规则有效数字的运算总的原则是,除遵守数学运算法则外,还规定,准确数字与准确数字的运算结果仍为准确数字;存疑数字与任何数字的运算结果均为存疑数字。(1)加减法设,运算过程为:1)先计算绝对不确定度,不确定度在运算过程中取两位,最后取一位。2)计算,各分量位数取到和不确定度所在位相同或比不确定度所在位低一位。3)用绝对不确定度决定最后结果的有效数字。例1求。其中,,。解:①,由于和,故在方和根合成时,可忽略。所以②在计算过程中,因为不

5、确定度在小数点后第一位上,故运算时各分量保留到小数点后第一位或第二位,也暂多保留一位。③如果各分量没有标明不确定度,则加减法的运算以各分量中可疑数字位最高的,即不确定度最大的分量为准,其他各分量在运算过程中保留到它下面一位,最后再与它对齐。上例中,分量的可疑数字位最高,以它为准,其它各分量保留到它下面一位,最后对齐。,最后与分量的位数对齐,所以结果为。(2)乘除法设,运算过程为:1)以有效位数最少的分量为准,将各分量(包括常数)的有效数字取到比它多一位,计算,结果也暂多保留一位。2)计算不确定度。3)由绝对不确定度决定结果的有效数字位数。例2求,其中:,,。解:

6、①各分量中,的有效数字位数最少(3位),以它为准,,,都取四位,结果先保留四位。②计算不确定度,应用不确定度传递公式:③结果为:当测量数据没有给出不确定度时,计算同①。结果的有效数字位数一般取与各分量中有效数字位数最少者相同。在运算中,遇到一些物理常数和纯数学数字(如,等),它们不影响运算结果的有效数字位数。综上例题运算得知,有效数字的运算规则:(1)当几个有效数字相加或相减时,其结果的有效数字末位的量级与参加运算的有效数字中可疑数字量级最大者相同。(2)当几个有效数字相乘或相除时,其结果的有效数字位数一般与参加运算的各数中有效数字位数最少者相同。3.函数运算的

7、有效数字取值必须注意,测量结果的有效数字位数多少取决于测量,而不取决于运算过程。因此在运算时,尤其是使用计算器时,不要随意扩大或减少有效数字位数,更不要认为算出结果的位数越多越好。

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。