有效数字的运算规则.doc

《有效数字的运算规则.doc》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、化验分析中，试样的组分含量，由一系列测得的原始数据经一定计算公式的算求得的。在数的运算中，一般地说，两数相加或相减，应该使它们有相同的确度；两数相乘或相除，应使它们有相同的准确度，即每一个数都保留同样位的有效数字，计算结果也是如此-似运算中应注意以下几点。(l)几个数相加或相减时，它们的和或差的有效数字保留的位数应以小数点位数最少的那个数字为依据。如：O．0312十23.34十2.50381，以23.34为依据，将其他数字按数字修约到小数点后第二位，然后相加(2)在做乘除运算的时候，有效数字的位数取决于相对误【电镀设备厂】kwtgs.com差最大的碘／<数

2、字位数最小的那个数。如：(0.0234十4.303X71.07)/127.5=0.计算结果应取O．0561，即与O．0234（有效数字位数最少的数的位数相同）。在运算过程中，每步运算的结果可比有效数字位数最少的那个数多保留一位。例如：O．0234X4.303=O．，这时可取O．1007，继续运算（比多一位有效数字）。在使用电子计算器时，有人错误地认为取值位数越多据越精确，其实这会人为地制造假象而有害无益。当然，也不可少取位数而丢了能够获得的准确度。