关于double类型变量的计算精度问题
double dSmallestDeep ;
dSmallestDeep = 1.0825 * 5;
dSmallestDeep 本来应该等于5.4125
四舍五入之后应该是5.413
但是现在的计算结果是dSmallestDeep = 5.412499999996
四舍五入之后成为5.412
请问大虾这种情况应该怎么取到正确的四舍五入之后的值,即5.413
[解决办法]
自己用与5.413相减,然后判断是否在你允许的误差范围月之内.
发布时间: 2012-06-20 20:37:21 作者: rapoo
关于double类型变量的计算精度问题
double dSmallestDeep ;
dSmallestDeep = 1.0825 * 5;
dSmallestDeep 本来应该等于5.4125
四舍五入之后应该是5.413
但是现在的计算结果是dSmallestDeep = 5.412499999996
四舍五入之后成为5.412
请问大虾这种情况应该怎么取到正确的四舍五入之后的值,即5.413
[解决办法]
自己用与5.413相减,然后判断是否在你允许的误差范围月之内.