有效数字及其运算

《有效数字及其运算》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、大学物理实验1一、有效数字：可靠数字＋存疑（可疑）数字可靠数字：按测量仪器或量具的最小分度值读取的数字。例如：用钢板尺测量某物体的长度，测量结果是10.34cm。问：测量结果是几位有效数字？其中可靠数字有几位？存疑数字有几位？钢板尺的最小刻度是多少？存疑数字：估计值（最后一位）。关于有效数字，我们应注意以下几点：例如：87.8℃是三位有效数字，128.5m是四位有效数字。1.一切非零数字都是有效数字。22.非零数字前面的“0”不是有效数字。此时“0”是用以表示小数点位置。例如：0.0000436km＝0.0436

2、m中“4”前面的“0”都不是有效数字，都是三位有效数字。3.非零数字后面的“0”都是有效数字，不能随意加减。例如：7.30cm是三位有效数字，最小刻度是mm。但7.3cm只是两位有效数字，最小刻度是cm。一、有效数字：可靠数字＋存疑（可疑）数字4.准确数（如东西的个数、实验次数）、公式中的自然数、常数、系数、指数、π、e等的有效数字位数可认为是任意多个，计算时需要取几位就取几位，但一般应取比运算各数中有效数字位数最多的还多一位。3例如：　　　　中的“4”看作切不可看作一位有效数字。5.有效数字的位数与十进制的单位

3、无关，即与小数点的位置无关。提示：要保持有效数字的位数是不变的。10.34cm＝0.0001034km＝0.1034m＝103.4mm问题：10.34cm=?km=?m=?mm＝？nm＝1.034×108nm4不能写成18200000mm，而应写成1.820×107mm。例如：18.20km＝?mm6.遇到大数目或小数目时，均可按科学记数法处理，但要保持有效数字的位数不变，且含一位整数。一、有效数字：可靠数字＋存疑（可疑）数字5二、运算规则：把用有效数字表示的直接测量值代入函数关系式运算得到的间接测量值也应该用有

4、效数字表示（即也表示为只有一位存疑数字的有效数字）。1.可靠数字与可靠数字运算（加、减、乘、除），结果为可靠数字。2.存疑数字与可靠数字（或存疑数字）运算，结果为存疑数字，但进位者为可靠数字。3.用“4舍6入5凑偶”的方法舍取尾数。即4以下“舍”去；6以上“入”；“5凑偶”是指“入”后使前一位变为偶数，则“入”，否则应舍去。4.运算中间过程多取一位（保留二位存疑数字）。6例：60.4＋122.25＝？50.36－48.108＝？60.4＋122.25182.65运算结果：取182.6（尾数舍去）50.36－48.

5、108小数点应对齐2.252运算结果：取2.25（尾数舍去）⑴加减运算：最后结果的有效数字的末位与参加运算各数中绝对误差最大的有效数字的末位对齐。结论：7例：2.005×30.4＝？37643÷217＝？2.005×30.48020运算结果：取61.0（尾数5凑偶）2171594运算结果：取1730000601560.9520217⌡376431715197536513.10204868152除法运算中，当余数出现全部为存疑数字时，这一位商即为存疑数字。结论：⑵乘除法运算：最后结果有效数字的位数一般与诸因子中有效

6、数字位数最少者相同。8⑶乘方、开方运算：最后结果的有效数字的位数与自变量的有效数字位数相同。例：4.4052＝19.40√4.405＝2.099⑷对数运算：自然对数的有效数字位数与真数的有效数字位数相同。例：ln5.374＝1.682（四位）以10为底的对数，其尾数的有效数字位数与真数的有效数字位数相同。例：lg21.308＝1.32854（六位）说明：严格说来，对数、三角函数以及其他函数运算的有效数字应按间接测量误差传递公式进行计算决定。上述规定只是粗略的，是为了使我们的实验计算简化而已。9三、确定测量结果有效

7、数字的方法测量结果的（不确定度）表示：和1.在大学物理实验中，测量结果有效数字一般只取一位可疑数字即可，u表示测量的误差范围，本身只是一个估计数，绝对误差的有效数字位数取多了意义不大。所以除一些较精确和重要的测量结果可保留二位外，一般取一位就可以了。与u表示测量的可疑位取两者最大的.10例如：某一长度的计算结果为若不确定度u＝0.0003m，则若不确定度u＝0.002m，则若不确定度u＝0.1m，则11例：以下表示正确与否？（1）L＝（1.00±0.02）cm（2）I＝（360±0.5）μA（3）g＝（980.1

8、25±0.04）cm/s2注意：E有几位有效数字？E取2位有效数字。（正确）（错误）（错误）在运算过程中，有效数字一般取两位。122.直接测量结果有效数字的位数确定：⑴读取仪器、仪表指示值的有效数字时，一定估读到最小分度下一位。如果指示值正好为整数（即指针指在分度线上），其后应加零至最小分度下一位。⑵计算算术平均值，其位数与原始数据的位数相同即可，不必增加位数。3.间接测