读书人

浮点数有关问题

发布时间: 2012-06-01 16:46:36 作者: rapoo

浮点数问题
float f1 = 0.3F;
float f2 = 0.4F;
Console.WriteLine(f1-f2);
输出结果-0.0999999
有什么办法解决这个问题没

[解决办法]
float 本身计算不准确,可以试试四舍五入
[解决办法]
float 和 double 由于存储方式的问题计算时会不精确,如果要精确用 decimal 类型。

读书人网 >C#

热点推荐