Excel单元格中的小数点的计算,从来都是头疼的问题。
如果原本有三位小数点,现仅保留两位小数点,那么,肯定就会出现四舍五入的问题,这样,在计算的时候,其结果精度是不高的。
另外一种情况是,考虑到数据的位数的显示,万一舍弃部分小数点,仅保留一两位小数点,那么,在计算上,精度也是不高的。
说得简单点就是:如何消除缩位后的计算误差,有时我们输入的数字是小数点后两位数,但是在精度要求上只要一位,缩位后显示没问题,但其计算结果却是有误差的。
解决方法是:单击工具→选项→重新计算
选中以显示值为准(),这样计算结果就没有误差了。
计算精度误差剖析:
事实上并不是计算上有误差,而是显示设置的四舍五入。
<...[ 查看全文 ]