测量误差数据的舍入规则

时间:2008-09-16

  实验中所得到测量数据都是近似数,在进行数据处理时会遇到近似数的计算问题。对于位数不等的数据,为了使计算简化,又不影响测量结果的程度,进行数据处理时所用的舍入处理规则为尾数小于5者舍,大于5者入,等于5者按偶数法则处理。所谓偶数法则,就是当尾数为5,尾数的前一位为奇数时,该尾数进位,尾数的前一位为偶数时(含“O”),该尾数舍弃。也就是说,偶数法则是在尾数为5时,把尾数前面的那位数变为偶数,这样能使等于5的尾数舍入机会均等,从而减小舍入误差。
     
  需要指出的是,尾数大于5包括尾数的位为5,而其后的数位中还有大于零的数,尾数等于5的尾数的
位为5,而其后各位数值均为零。

  例如,将下列数据舍入到小数的第三位,各数分别为

  
4.580 499 →4.580   5.173 53 →5.174

  
1.732 501 →1.732   3.592 52 →3.592

  
8.365 501 →8.366   6.870 54 →6.870

 
  以上几个数据均按舍入处理,舍入后所得数据的末位数为欠准数字,其舍入误差大于舍入后所得数据末位单位的0.5。

   



  
上一篇:电子电路测量误差实验数据处理
下一篇:评估逻辑设计的工作速度

免责声明: 凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。

相关技术资料