有效数字和数值的修约及其运算.docx

《有效数字和数值的修约及其运算.docx》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、文件编号：SOP-QC-018-01总页码：42页本节页码：第1页药业有限公司BAISHANJIANNINGMEDICINESINDUSTRIESCO.LTD.文件名称有效数字和数值的修约及其运算起草者审核者批准者起草日期年月日核日期年月日批准日期年月日生效日期年月日分部量保部分位1.目的：建立各种量或量而得的数行修、运算的准操作程序。2.适用范：适用于工作中除生物定法以外的各种量或算而得的数。3.责任：QC化、生制造部与工程部的全体管理人、生工。4.内容：本程系根据《中国典（2000年版）》“凡例”和国家准GB8l70-87《数修程》制。4.

2、1有效数字的基本概念4.1.1有效数字系指在工作中所能得到有意的数。其最后一位数字欠准是允的，种由可靠数字和最后一位不确定数字成的数，即有效数字。最后一位数字的欠准程度通常只能是上下差1位。4.1.2有效数字的定位：是指确定欠准数字的位置。个位置确定后，其后面的数字均无效数字，欠准数字的位置可以是十位的任何位数，用10n来表示：n可以是正整数，如n=1、101=10，n=2，102=100，⋯⋯⋯⋯；n也可以是数，如n=-1、10-1=0.1，n=-2、10-2=0.01⋯⋯⋯⋯。4.1.3有效位数4.1.3.1在没有小数位且以若干个零结尾

3、的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。例如35000中若有两个无效零，则为三位有效位数，应写作350×102；若有三个无效零，则为两位有效位数，就应作35×103。4.1.3.2在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数，0.0320为三位药业有限公司文件编号：SOP-QC-018-01总页码：42页本节页码：第2页BAISHANJIANNINGMEDICINESINDUSTRIESCO.LTD.文件名

4、称有效数字和数值的修约及其运算效位数、10.00为四位有效位数，12.490为五位有效位数。4.1.3.3非连续型数值（如个数、分数、倍数、名义浓度或标示量）是没有欠准数字的，其有效位数可视为无限多位；常数π、c和系数21/2等数值的有效位数也可视为无限多位。例如分子式“H2S04”中的“2”和“4”是个数，含量测定项下“每1ml的×××滴定液（0.1mol/L）”中的“1”为个数，“0.1”为名义浓度，其有效位数均为无限多位；规格项下的“0.3g”或“lml：25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。即在计算中，其有

5、效位数应根据其他数值的最少有效位数而定。4.1.3.4pH值等对数值：其有效位数是由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。pH=11.26（［H+］=5.5×10-12mol），其有效位数只有两位。4.1.3.5有效数字的首位数字为8或9时，其有效数可以多计一位。例如85%与115%，都可以看成是三位有效位数；99.0%与101.0%都可以看成是四位有效数字。4.2数值修约及其进舍规则4.2.1数值修约：是指对拟修约数值中超出需要保留位数时的舍弃，根据舍弃数来保留最后一位数或最后几位数。4.2.2修约间隔：是确定修约保留位数

6、的一种方式，修约间隔的数值一经确定，修约值即应为该数值的整数倍。例如指定修约间隔为0.1，修约值即应在0.1的整数倍中取，也就是，将数修到小数点后一位。4.2.3确定修的位数的表达方式4.2.3.1指定位数：A指定修隔10-n（n正整数），或指明将数修到小数点后n位。B指定修隔1，或指明将数修到个数位。C指定修隔10n（n正整数），或指明将数修到10数位，或指明药业有限公司文件编号：SOP-QC-018-01总页码：42页本节页码：第3页BAISHANJIANNINGMEDICINESINDUSTRIESCO.LTD.文件名称有效数字和数值的修

7、约及其运算将数修到“十”、“百”、“千”⋯⋯数位。4.2.3.2指定将数修成n位有效位数（n正整数）。4.2.4舍4.2.4.1舍弃数字的最左一位数字小于5，舍去，即保留的各位数字不。例1：将12.1498修到一位小数，得12.1。例2：将12.1498修成两位有效位数，得12。4.2.4.2舍弃数字的最左一位数字大于5，或者是5而其后跟有并非全部0的数字一。即在保留的未位数字加1。例1：将1268修到百数位，得13×102。例2：将1268修到三位有效位数，得127×10例3：将10.502修到个数位，得11。4.2.4.3舍弃数字的最左一位

8、数字5，而右面无数字或皆0，若所保留的末位数奇数（1、3、5、7、9）一，偶数（2、4、6、8、0）舍弃。例1：修隔0.1（或10-1）修数修1.05