作业帮 > 数学 > 作业

有效数字的乘除法运算的原则

来源:学生作业帮 编辑:灵鹊做题网作业帮 分类:数学作业 时间:2024/04/29 20:49:50
有效数字的乘除法运算的原则
从教科书上得知,有效数字的乘除法以相对误差最大的为标准进行修约,为什么相对误差最大者,即是有效数字位数最少的数字?
有效数字的乘除法运算的原则
这个可以理解,比如100,如果差1的话,1/100=0.01误差是1%.
如果是10差1的话,1/10=0.1误差就是10%.所以有效数字位数少的数字误差大.
再问: 那,0.01和0.010呢,都差0.0001?
再答: 看来你对有效数字还是不太清楚,所谓有效数字应该是从左侧第一位非零数字算起,也就是0.01是1位有效数字,而0.010是两位有效数字。
再问: 所以0.01比0.010有效数字字位数少,他们的相对误差情况呢?
再答: 当然是前者的误差比后者要大了。你用过电子称吧?有的电子称精度为0.1g,有的是0.01g,同样称10g的物体,精度为0.1的最后一位如果差1的话就是0.1/10,误差为1%,精度为0.01的最后一位如果差1的话就是0.01/10,误差为0.1%