浮点数问题
float f1 = 0.3F;
float f2 = 0.4F;
Console.WriteLine(f1-f2);
输出结果-0.0999999
有什么办法解决这个问题没
[解决办法]
float 本身计算不准确,可以试试四舍五入
[解决办法]
float 和 double 由于存储方式的问题计算时会不精确,如果要精确用 decimal 类型。
发布时间: 2012-06-01 16:46:36 作者: rapoo
浮点数问题
float f1 = 0.3F;
float f2 = 0.4F;
Console.WriteLine(f1-f2);
输出结果-0.0999999
有什么办法解决这个问题没
[解决办法]
float 本身计算不准确,可以试试四舍五入
[解决办法]
float 和 double 由于存储方式的问题计算时会不精确,如果要精确用 decimal 类型。