有效数字和数值的修约及其运算标准操作规程

有效数字和数值的修约及其运算标准操作规程

ID:38792382

大小:44.50 KB

页数:6页

时间:2019-06-19

有效数字和数值的修约及其运算标准操作规程_第1页
有效数字和数值的修约及其运算标准操作规程_第2页
有效数字和数值的修约及其运算标准操作规程_第3页
有效数字和数值的修约及其运算标准操作规程_第4页
有效数字和数值的修约及其运算标准操作规程_第5页
资源描述:

《有效数字和数值的修约及其运算标准操作规程》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、湖南恒生制药有限公司HunanHengshengPharmaceuticalCo.,LtdSOP-QC-01-003/01文件名称有效数字和数值的修约及其运算标准操作规程文件编号SOP-QC-01-003/01编制人审核人批准人编制日期审核日期批准日期颁发部门质量部分发号生效日期发送单位档案室、质量部、化验室一、目的:建立有效数字和数值的修约及其运算标准操作规程,确保有效数字和数值的修约及其运算结果的准确性。二、适用范围:适用于有效数字和数值的修约及其运算操作。三、责任:QC检验人员负责本规程的实施,QA负责人、QC负责人监督检查。四、内容:1.

2、有效数字的基本概念1.1有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。1.2有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。1.3有效位数1.3.1在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位

3、数,应写作35×103或3.5×104。1.3.2在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032均为两位有效位数,0.320为三位有效位数、10.00为四位有效位,12.490为五位有效位数。1.3.3第6页共6页湖南恒生制药有限公司HunanHengshengPharmaceuticalCo.,LtdSOP-QC-01-003/01非连续型数值(如个数、分数、倍数)是没有准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。常数π、е和系数2等数值的有效位数也

4、可视为是无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/l)······”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。1.3.4PH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。如PH=11.26([H+]=5.5×10-12mol/l),其有效位数只有两位。1.3.5有效数字的首位是8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与

5、101.0%都可以看成是四位有效数字。2.数值修约及其进舍规则。2.1数值修约是指对似修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。2.2修约间隔是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值应为该数值的整数倍。例如指定修约间隔为0.1,作约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。2.3确定修约位数的表达方式2.3.1指定数位2.3.1.1指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。2.3.1.2指定修约间隔为1,或指明将数值修约到个数位。2.3.1.

6、3指定修约间隔为10n(n为正整数)或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”······数位。2.3.2指定将数值修约成n位有效位数(n为正整数)。2.4进舍规则第6页共6页湖南恒生制药有限公司HunanHengshengPharmaceuticalCo.,LtdSOP-QC-01-003/012.4.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。将12.1498修约到一位小数(十分位),得12.1。将12.1498修约成两位有效位数,得12。2.4.2拟舍弃数字的最左一位数字大于5,或者是5,而

7、其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加1。将1268修约到百数位,得13×102。将1268修约到三位有效位数,得127×10。将10.502修约到个数位,得11。2.4.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。修约间隔为0.1(或10-1)拟修约数值修约值1.0501.00.3500.4修约间隔为1000(或103)拟修约数值修约值25002×10335004×103将下列数字修约成两位有效位数拟修约数值修约值0.0325

8、0.0323250032×1032.4.4不许连续修约拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则(2.4.1-2

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。