数据处理-有效数字及其运算规则.ppt

《数据处理-有效数字及其运算规则.ppt》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、任务三数据处理有效数字及其运算规则授课教师：刘深勇食品工程分院基础化学1．知识目标掌握有效数字的运算及运算规则2．能力目标会根据运算法则进行运算3．素质目标养成严谨求实的科学态度，以及耐心、细致的工作作风学习目标教学内容（一）有效数字1、有效数字的分类2、有效数字的意义3.有效数字的位数（二）运算规则1、有效数字的修约规则2、有效数字计算规则1、有效数字的分类实验过程中常遇到的两类数字：准确数字和实验测得到的数据1、有效数字：指实验能测量到的数字，包括所有准确数字和最后一位可疑的数字如：读取滴定管的读数为21.18mL（一）有效数字（一）有效数字2、有效数字的意义：数据的

2、位数与测定准确度有关。记录的数字不仅表示数量的大小，而且要正确地反映测量的精确程度。比如：0.51800，0.5180，0.518所代表的精确程度一样吗？a.用万分之一分析天平：10.2345g实验数据的准确性与分析测试仪器的测量精度有关：同一试样采用不同测量精度的仪器测量，所得数据的有效数字位数不同，其中有效数字位数多的测量更精确。准确数字可疑数字都是有效数字准确数字可疑数字b.用精度为±0.01g的天平：10.23g如称量某一试样的质量6位4位若干位准确数字末位可疑数字+有效数字=（1）记录测量值时必须且只能保留一位不确定的数字（2）非零数字都是有效数字（3）非零数字

3、前的0不是有效数字：0.002683位非零数字之间的0是有效数字：0.200685位对小数，非零数字后的0是有效数字：0.268005位（4）数字后的0含义不清楚时,最好用指数形式表示：如整数末位或末几位的0含义不明：26800？2.68×1043位；2.680×1044位；2.6800×1045位（5）常数π、e及倍数、分数的有效数字位数可认为没有限制（6）首位数字大于等于8,可多计一位有效数字：95.2%4位（7）对数的有效数字位数以小数部分计：pH=10.282位3、有效数字位数的确定4．改变单位，不改变有效数字的位数如：24.01mL24.0110－3L5．其他

4、（1）容量器皿；滴定管；移液管；容量瓶；4位有效数字（2）分析天平（万分之一）取小数点后4位表示（3）标准溶液的浓度，用小数点后4位表示:0.1000mol/L有效数字位数数字2.060.31000.02050.0308038002.30×104pH=10.25有效数字位数3434不确定32课堂练习练习0.100020.78%0.05263.59×10-60.021×1031001000答案：4位、3位、1位、位数不确定（二）有效数字的运算规则1．修约规则各测量值的有效数字位数确定之后，就要将它后面多余的数字舍弃。舍弃多余数字的过程，叫做“数字修约”；所遵循的规则称为“数

5、字修约规则”(GB8170-1987)。口诀：四要舍，六要入，五后有数要进位，五后无数（包括零）看前方，前方奇数就进位，前方偶数全舍光。四舍六入五成双修约后末位数为偶数将下列数据修约为四位有效数字2.43742.43762.43652.43752.436512.4372.4382.4362.4382.437练习10.1有效数字一次修约到位，禁止分次修约4.1464.14.154.2×注意2位（1）加减运算:以各项中绝对误差最大的数为准，和或差只保留一位可疑数字，即与小数点后位数最少的数取得一致。28.510.030.712+4.131643.3736?28.510.00.

6、7+4.143.3先修约，后计算±0.1±0.01±0.001±0.00012．运算规则每个数据的最后一位都存在±1的绝对误差（2）乘除法:以相对误差最大的数为准，积或商只保留一位可疑数字，即按有效数字位数最少的数进行修约和计算。解：三个数的最后一位都存在±1的绝对误差，相对误差各为：(±1／31816)×100％=±0.003％计算：0.0235×20.03÷3.1816=0.147946002？(±1／2003)×100％=±0.05％(±1／235)×100％=±0.4％0.0235相对误差最大，修约时按3位有效数字计算0.0235×20.0÷3.18=0.148注

7、意：首位数字为8或9，可多保留一位有效数字。9.35×0.1856=1.736如（3）乘方或开方运算原数据有几位有效数字，结果就可保留几位，若一个数的乘方或开方结果，还将参加下面的运算，则乘方或开方后的结果可多保留一位有效数字。3.142=9.860=9.86（4）对数运算在对数运算中，所取对数的有效数字位数应与真数的有效数字位数相等。例：例：1、下列数据各包括几位有效数字？（1）1.025（2）0.034（3）0.0020（4）10.045（5）8.6×10-3（6）PH=2.0（7）113.0（8）39.23%（9）0.0