实验中所得到测量数据都是近似数,在进行数据处理时会遇到近似数的计算问题。对于位数不等的数据,为了使计算简化,又不影响测量结果的程度,进行数据处理时所用的舍入处理规则为尾数小于5者舍,大于5者入,等于5者按偶数法则处理。所谓偶数法则,就是当尾数为5,尾数的前一位为奇数时,该尾数进位,尾数的前一位为偶数时(含“O”),该尾数舍弃。也就是说,偶数法则是在尾数为5时,把尾数前面的那位数变为偶数,这样能使等于5的尾数舍入机会均等,从而减小舍入误差。
需要指出的是,尾数大于5包括尾数的位为5,而其后的数位中还有大于零的数,尾数等于5的尾数的位为5,而其后各位数值均为零。
例如,将下列数据舍入到小数的第三位,各数分别为
4.580 499 →4.580 5.173 53 →5.174
1.732 501 →1.732 3.592 52 →3.592
8.365 501 →8.366 6.870 54 →6.870
以上几个数据均按舍入处理,舍入后所得数据的末位数为欠准数字,其舍入误差大于舍入后所得数据末位单位的0.5。
免责声明: 凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。