有效数字运算及修约.ppt

《有效数字运算及修约.ppt》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、数值修约规则及极限数值的表示和判定Significantfigure情景导入进行化学滴定分析时，当凹液面在两刻度线之间时，需要对两刻度线之间的体积进行估读，梅仁耀读取到23.44mL、梅仁爱读取到23.46mL、梅仁姓读取到23.45mL；梅闻画看到一试剂柜中的NaOH标准滴定溶液的浓度写着：0.1065(+)mol/L。有效数字的定义数学定义：从左边第一个不是0的数字算起，到精确到的位数为止，所有的数字都叫做这个数的有效数字。分析化学定义：在分析工作中实际能够测量到的数字。能够测量到的是包括最后一位估读的，不确定的数字。我们把通过直读获得的准确数字叫做可靠数字，

2、把通过估读得到的那部分数字叫做存疑数字，把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字位数判定1.000843.181五位0.100010.98%四位0.03821.98×10-10三位540.0040两位3600100位数模糊注意：1、以上数据中0的左右的差异；2、对于3600之类的数字，一般看成4位有效数字，但它也可能是2位(3.6×103)或3位(3.60×102)有效数字位数判定1、在分析化学计算中，常遇到倍数、分数关系，这些数据不是测量直接得到的，可视为无限多位有效数字；2、对于pH、pM、lgc、lgK等对数值，其有效数

3、字取决于小数部分的位数，因为整数部分只代表该数字的方次。e.g.pH=11.20，换算为H+浓度时，应为c(H+)=6.3×10-12mol/L，有效数字是两位。数值修约规则数值修约：通过省略原数值的最后若干位数字，调整所保留的若干位数字，使最后得到的值最接近原数值的过程。修约间隔：修约值的最小数值单位。修约间隔的数值一经确定，修约值一定是该数值的整数倍。e.g.1：修约间隔为0.1(或10-1)，表示将数值修约至一位小数；e.g.2：修约间隔为100(或102)，表示将数值修约至百位数。极限数值：标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规

4、范)要求的指标数值范围的界限值，即指标的上限或者下限。数值修约规则数值修约的步骤大体分两步：1、确定修约间隔；2、根据修约的进舍规则对数值进行修约。数值修约的规则：1、进舍规则；2、不允许连续修约；3、0.5单位修约；4、0.2单位修约。进舍规则大规则：四舍六入五成双①拟舍弃数字的最左一位数字小于5，则舍去，保留其余各位数字不变；e.g.将12.1498修约至个位数，得到12，修约至小数点后一位，得到12.1.②拟舍弃数字的最左一位数字大于5，则进一，即保留位数的末位数字加一；e.g.将13.1634修约至小数点后一位，得到13.2。进舍规则③拟舍弃数字的最左一位

5、数字是5，且其后有非0数字时进一，即保留数字的末位数字加1。e.g.将11.5002修约至个位数，得12。④拟舍弃数字的最左一位数字是5，且其后无数字或皆为0时，若所保留数字的末位数字为奇数时则进一，若所保留数字的末位数字为偶数时则舍去。e.g.将1.050修约至小数点后一位得1.0，将0.35修约至小数点后一位得0.4。⑤负数修约时先取绝对值，按照①②③④中的规则进行修约，然后在其前面加上负号。不允许连续修约规则(1)拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得按照进舍规则多次进行多次修约。e.g.将97.46修约至个位数正确做法：97.46

6、→97错误做法：97.46→97.5→98不允许连续修约规则(2)在具体实施中，有时测试与计算部门先将获得的数值按照指定的修约数位多一位或几位报出，而后再由其它部门判定。为了避免产生连续修约的错误，应按以下两个步骤进行操作。不允许连续修约规则Ⅰ.报出数值最右的非零数字为5时，应在数值的右上角加上“+”或“-”或不加符号，分别表明进行过舍、进或未舍未进。e.g.16.50+，表示实际值大于16.50，16.50-表示实际值小于16.50。Ⅱ.如对报出值需进行修约，当拟舍弃的最后一位数值为5，且其后无数字或皆为0时，数值右上角有“+”者进一，有“-”者舍去，其余按照①

7、②③④中的规则进行修约。0.5单位修约和0.2单位修约定义：0.5单位修约是指按指定修约单位间隔对拟修约的数值的0.5单位进行的修约。步骤：将拟修约数值X乘以2，按指定修约间隔对2X根据上述进舍规则进行修约，得到的数值(2X修约值)再除以2。0.2单位修约的定义和步骤跟0.5单位修约类似，将倍数“2”变为“5”。有效数字的＋－×÷在实际的分析工作中，经常会遇到计算公式，而计算公式中的不同项目所保留的有效数字的位数是不同的，最终的计算结果到底保留多少个有效数字值得关注。有效数字的＋－运算在几个数据相加或相减时，有效数字的保留，应该以小数点后位数最少的数字为根据。e.

8、g.0.0