有效数字和数值的修约及其运算管理规程

《有效数字和数值的修约及其运算管理规程》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、1．目的建立一个数值修约的标准操作程序，使操作过程规范化。2．职责质量部负责本文件的制定，检验员负责严格按SOP处理检验操作中有效数字和数值的修约及其运算。3．适用范围运用于检验操作中有效数字和数值的修约及其运算。4．内容4.1有效数字4.1.1有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。4.1.2有效数字的定位（数位），是指确定欠准数字的位置。这个位置确定后，其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何数位，用10n来表示：n可以是正

2、整数，如n＝1、101＝10（十数位），n＝2、102＝100（百数位），……；n也可以是负数，如n＝-1、10-1＝0.1（十分位），n＝-2、102＝0.01（百分位），……4.2有效位数4.2.1在没有小数位且以若干个零结尾的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。例如35000中若有两个无效零，则为三位有效位数，应写作350×102；若有三个无效零，则为为两位有效位数，应写作35×103。4.2.2在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数，

3、0.320为三位有效位数、10.00为四位有效位数，12.490为五位有效位数。4.2.3非连续型数值（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位；例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和系数等数值的有效位数也可视为是无限多位；含量测定项下“每1ml的XXXX滴定液（0.1mo1/L）……”中的“0.1”为名义浓度，规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量，其有效位数也均为无限多位；即在计算中，其有效位数应根据其他数值的最少有效位数而定。4.2.1pH值等对数值，其有效位数是由其小数点后的位数决定的，其

4、整数部分只表明其真数的乘方次数。如pH=11.26([H+]＝5.5×10-12mol/L),其有效位数只有两位。4.2.2有效数字的首位数字为8或9时，其有效位数可以多计一位。例如85％与115％，都可以看成是三位有效位数；99.0％与101.0％都可以看成是四位有效数字。4.3数值修约及其进舍规则4.3.1数值修约是指对拟修约数值中超出需要保留位数时的舍弃，根据舍弃数来保留最后一位数或最后几位数。4.3.2修约间隔是确定修约保留位数的一种方式，修约间隔的数值一经确定，修约值即应为该数值的整数倍。例如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，也就是说将数值修约到小数点后一

5、位。4.3.3确定修约位数的表达方式4.3.3.1指定数位l指定修约间隔为10-n（n为正整数），或指明将数值修约到小数点后n位。l指定修约间隔为1，或指明将数值修约到个数位。l指定修约间隔为10n（n为正整数），或指明将数值修约到10n数位，或指明将数值修约到“十”、“百”、“千”……数位。l指定将数值修约成n位有效位数（n为正整数）。4.3.3.2进舍规则l拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。l拟舍弃数字的最左一位数字大于5，或者是5，而其后跟有并非全部为0的数字时，则进一，即在保留的末位数字加1。l拟舍弃数字的最左一位数字为5，而右而无数字或皆为0时，若

6、所保留的末位数为奇数（1，3，5，7，9）则进一，为偶数（2，4，6，8，0）则舍弃。l不许连续修约：拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按前面规则连续修约。l为便于记忆，上述进舍规则可归纳成下列口诀：四舍六入五考虑，五后非零则进一，五后全零看五前，五前偶舍奇进一，不论数字多少位，都要一次修约成。但在校英、美、日药典方法修约时，按四舍五入进舍即可。4.3.4运算规则：在进行数学运算时，对加减法和乘除法中有效数字的处理是不同的。4.3.4.1许多数值相加减时，所得和或差的绝对误差必较任何一个数值的绝对误差大，因此相加减时应以诸数值中绝对误差最大（即欠准数字的数位最大）的

7、数值为准，以确定其它数值在运算中保留的数位和决定计算结果的有效数位。4.3.4.2许多数值相乘除时，所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中相对误差最大（即有放位数最少）的数值为准，确定其它数值在运算中保留的位数和决定计算结果的有效位数。4.3.4.3在运算过程中，为减少舍入误差，其它数值的修约可以暂时多保留一位，等运算得到结果时，再根据有效位数弃去多余的数字。4.4注意事项4.4.1正确记录检测所