3.89-3.98=4.44089209850063E-16
在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16
[解决办法]
给出具体的测试数据吧
[解决办法]
用decimal做数据类型.
[解决办法]
原因:因为你用的float 数据类型
解决方案:改成decimal
[解决办法]
发布时间: 2012-03-21 13:33:15 作者: rapoo
3.89-3.98=4.44089209850063E-16
在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16
[解决办法]
给出具体的测试数据吧
[解决办法]
用decimal做数据类型.
[解决办法]
原因:因为你用的float 数据类型
解决方案:改成decimal
[解决办法]