有效数字修约规程

有效数字修约规程

ID:40116830

大小:32.02 KB

页数:3页

时间:2019-07-21

有效数字修约规程_第1页
有效数字修约规程_第2页
有效数字修约规程_第3页
资源描述:

《有效数字修约规程》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库

1、有效数字修约及其运算规程一.目的为实验室有效数字修约及其运算提供指导,保证有效数字修约及其运算的规范性、科学性和可操作性。二.适用范围本规程适用于实验室数据计算过程中有效数字修约及其运算。三.职责实验室所有人员:严格按照有效数字修约及其运算规程填写记录报告。四.相关规定1.有效数字的基本定义1.1.有效数字是指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。1.2.一个数据的位数不仅表示数量的大小,也反映测量的精确程度。有效数字就是以一种近似的方式表示报告的数字结

2、果的精确性或者不确定性。某种意义上说,它是表示一个已知的数据“有多好”的最常见的方式。2.有效位数2.1.在没有小数位且以若干个零结尾的数值中,有效位数是指从最左一位非0数字向右数,得到的位数减去无效零(即仅为定位用的零)的个数。例如:35000中若有两个无效0,则为三位有效位数,应写作350×102或3.50×104;若有三个无效0,则为两位有效数,应写作35×103或3.5×104。当需要在数值的末尾加“0”作定位时,最好采用指数形式表示,否则有效数字的位数含混不清。2.2.在其他十进位数中,有效数字是指从最左一位非0数字向右数而得到的位数。例如:3.2、0.32、0.032和0.

3、0032均为两位有效位数,0.320为三位有效位数,10.00为四位有效位数,12.490为五位有效位数。(数字“0”具有双重意义。若作为普通数字使用,它就是有效数字;若作为定位用,则不是有效数字。)2.3.非连续型数值(如个数、分数、倍数)是非测量所得,没有欠准数字的,其有效位数可视为无限多位。例如:分子式“H2SO4”中的“2”和“4”是个数。常数π、e和系数等数值的有效位数可视为是无限多位;含量测定项下“每1ml的XXX滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中“0.3”、“1”和“25”为标示量,其有效位数也均为无限

4、多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。2.4.有效数字的首位数字≥第3页共3页有效数字修约及其运算规程8时,其有效位数可以多计一位。(此条USP及FDA相关规定中没有提及)如85%与115%,都可看成是三位有效位数;99.0%与101.0%都可看成是四位有效数字。2.5.pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。如pH=11.26([H+]=5.5×10-12mol/L),其有效位数只有两位。3.数值修约及其进舍规则3.1.数值修约是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。3

5、.2.修约间隔是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整数倍。例如:指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。3.3.进舍规则中国药典相关规则:“4舍6入5考虑,5后非0则进1,5后全0看5前,5前偶舍奇进1”。拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变;拟舍弃数字的最左一位数字大于5时,则进一,即保留的末位数字加1;拟舍弃数字的最左一位数字等于5时,其后跟有并非全部为0的数字时则进1,其后无数字或数字皆为0时若所保留末位数为奇数则进1,为偶数则舍弃。4.运算规则4.1.在进行数学运

6、算时,对加减法和乘除法中有效数字的处理是不同的。但均遵循的原则是:报告的数字结果的精确性应与用于产生该结果的最低精确度的测量数值相一致。4.2.运算加减法:因加减法运算所得和或差的绝对误差比任何一个数值的绝对误差大,所以应以诸数值中绝对误差最大(即欠准数字的数位最大)的数值为准,以确定其它数值在运算中保留的数位和决定计算结果的有效位数。简单的说就是计算结果的小数位数应等于组成算式的数字中小数位数最少的一个。4.3.运算乘除法:因乘除法运算所得积或商的相对误差比任何一个数值的相对误差大,所以应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果

7、的有效数字。简单的说就是计算结果的有效位数应与算式中有效数字位数最少的数字一致。4.5.在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。5.特殊规定5.1.不得连续修约,拟修约数字应在确定修约位数后一次修约获得结果,从而判断结果是否合格,而不得多次按前面规则连续修约。5.2.计算所得的最后数值或测定读数值均可按修约规则进舍至规定有效位,取此数值与标准中规定的限度数值比较,以判断是否

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。