有效数字修约和运算规则的再思考

有效数字修约和运算规则的再思考

ID:9060467

大小:78.00 KB

页数:7页

时间:2018-04-16

有效数字修约和运算规则的再思考_第1页
有效数字修约和运算规则的再思考_第2页
有效数字修约和运算规则的再思考_第3页
有效数字修约和运算规则的再思考_第4页
有效数字修约和运算规则的再思考_第5页
资源描述:

《有效数字修约和运算规则的再思考》由会员上传分享,免费在线阅读,更多相关内容在应用文档-天天文库

1、有效数字修约和运算法则的再思考吕荣禛(华南理工大学化学与化工学院,广州五山,510640)摘要:本文对经常遇到的数据记录和处理中的有效数字问题进行了有意义的探讨。针对当前普遍采用的“四舍六入五成双”修约规则,提出了用“四舍五入恰五成双”新名称来表达更为合理和便于记忆的观点。在对数和三角函数的运算中,建议根据误差理论来判定有效数字的位数,而不是按照现流行教科书的观点认为氢离子浓度的有效数字与其pH值的有效数字位数一定相等。然后讨论了先修约后计算和先计算最后修约对最终计算结果的影响。在计算机/计算器普及的今天,本文提倡先计算最后修约,这样不仅简化了许多繁琐的修约步骤,而且也可以保证数据

2、的准确性,并且极大地提高了工作效率。关键词:有效数字;四舍五入恰五成双;修约规则;运算规则在科学与工程的研究过程中常常要涉及记录大量的原始数据以及进行数据处理和运算。这些数据的准确性关系到整个实验的精度。正确的进行有效数字的记录﹑取舍和运算是每个科学工作者必须要具备的基本能力。用来表示量的多少,同时反映测量准确度的各数字称为有效数字。实验中在记录和计算时应以测量可能达到的精度为依据来确定有效数字的位数和取舍。一般而言,在记录测量值时必须记录全部准确数字和一位不确定数字且只能记录一位不确定数字(可疑数字或估读数字)[1,2]。如在最小刻度-----------------------

3、----------------作者简介:吕荣禛,1987年生,女,研究生,主要从事自组装单分子膜诱导晶体生长方面的研究值为0.1mL的滴定管中读得数据3.87mL,3和8是准确数字,而7是可疑数字。数字7虽不是准确数值却也客观反映物理量的大小,必须保留。这样3.87mL的有效数字位数就为3位。只要涉及到测量及与测量有关的计算都会涉及到有效数字的取舍问题。现在,直接使用第一手测量数据的机会较少[3],大部分的数据都是要经过计算来提交最终的计算结果。因此,在计算过程中有效数字的取舍就显得尤为重要。7一修约规则名称问题“四舍五入法”是我们过去所熟悉的修约规则。它深深地印在我们的脑海里,

4、只要一遇到有效数字计算的问题,马上就会想到“四舍五入法”。可是,在工程技术和科学实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”,就不够精确[4]。我国在新的关于数值修约的国标GB/T8170-2008中就说明了新的取舍规则:拟舍去数字最左一位小于5时则舍去,保留其余数字不变;拟舍去数字最左一位大于5时则进一;拟舍去数字最左一位为5时,其后有非0数字时进一;拟舍去数字最左一位为5,其后没有数字或者数字均为0时,其所保留的末位数字为奇数时则进一,为偶数时则舍去[5]。这个被称为“四舍六入五成双”的修约规则。从国标GB/T8170-2008的介绍上看,新的修约规则看上去非

5、常复杂,有很多种不同的条件,容易让人困惑。但是实际上与原来的“四舍五入”的规则差别并不大,只是在“恰5”(exactlyone-halfaunit)这个数字点上做了更为细致的划分。图1“四舍五入”与“四舍六入五成双”从图1看,新旧规则都将小于5的数字做了舍去处理(小于五舍去)和将大于5的数字做了进位处理(大于五进入),如1.465001保留3位有效数字时必须修约为1.47。本文将“拟舍去数字最左一位为5,其后没有数字或者数字均为0的数字”称为恰5数字,“恰五”对应图1中数轴上一个点。对恰5数字的不同处理是新旧规则的差别所在。如果将所有恰5数字进位,就成了“四舍五入”规则。而“四舍六

6、入五成双”的修约规则将“恰5”的情况分成两种:恰5前面的数字为偶数则舍去5,恰5前面的数字为奇数则进一。例如,1.465000保留3位有效数字则舍“恰5”修约为1.46,1.475000保留3位有效数字则进“一”修约为1.48。从统计学的角度来说,“四舍六入五成双”的修约规则更科学[6]。传统的“四舍五入法”逢恰5就进一,会使得计算结果偏大。而根据现行的修约规则,7恰5数字有进有舍,使得修约结果更加接近真实值。这样的修改是科学合理的,但是“四舍六入五成双”的名称却容易使人误解,如容易将1.465001修约为1.46。我们认为如果用“四舍五入恰五成双”表达新规则则将更合理。恰5成双,

7、非恰5数字时采用四舍五入的规则。这样直接通过“四舍五入恰五成双”的名称就可以清楚的知道这个修约规则适用的条件,达到望文生意,便于记忆。对于“四舍六入五成双”这个规则,乔成立等[7]认为对于恰5数字情况使用奇进偶舍的方法还是不够科学。他们提出:有偶数个“恰五”这样的数据,就舍和进各占一半,这样关于舍和进产生的误差可相互抵消;如果有奇数个“恰5”数据,就按奇数少一个的偶数个数舍或进各半。但是在实际的测量和运算过程中,即使同为“恰5”数字,它们对整体的贡献也往往存在差别,简

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。