有效数字运算试题.doc

《有效数字运算试题.doc》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1、用有效数字计算结果：（1）123.98-40.456+7.8=___________（2）lg10.00=___________（3）789.30×50÷0.100=___________（4）1.002=___________（5）（6）1002=___________（7）（8）（9）6.2345保留四位有效数字___________，6.051保留两位有效数字___________2、下列表达式中的有效数字位数100.00±0.100cm的有效数字是___位100.00±0.10cm的有效数字是____位100.

2、00±0.1cm的有效数字是____位3、对某数进行直接测量,有如下说法，正确的是()A.有效数字的位数是由所使用的量具所决定B.有效数字的位数是由被测量的大小决定C.有效数字的位数由使用的量具与被测量的大小共同确定4、下列测量的结果表达正确的有()5、找出下列正确的数据记录：（1）用分度值为0.05mm的游标卡尺测物体长度：32.50mm；32.48mm；43.25mm；32.5mm；32.500mm。（2）用分度值为0.02mm的游标卡尺测物体长度：45.22mm；52.78mm；64.05mm；84mm；73.464

3、mm。（3）用分度值为0.01mm的螺旋测微计测物体长度：0.50mm；0.5mm；0.500mm；0.324mm。6、通过计算确定N的有效数字：（1）N=A+B-C其中：A=62.5±0.1cm2，B=1.234±0.003cm2，C=5.43±0.06cm2，试确定N的有效数字。（2）N=AB/C其中：A=3.21±0.01cm，B=6.5±0.2cm，C=21.843±0.004cm，试确定N的有效数字。参考答案1、（1）171.0（2）1.0000（3）3.9×103（4）1.00（5）1.00（6）1.00×10

4、4（7）4（8）0.01（9）6.234，6.12、4，4，43、C4、C5、（1）32.50mm、43.25mm（2）45.22mm、52.78mm（3）0.500mm、0.324mm6、（1）（2）