关于Linq的sum的问题
当用Linq对double类型进行sum时,结果会出现失真现象,例如本来计算出来的结果应该是220.8,现在得出来的结果是220.79999999999998,请问各位大侠,这是什么问题?怎样解决?
[解决办法]
浮点数丢精度是很正常的,可以考虑调整你的计算顺序,也许会有帮助
发布时间: 2012-06-29 15:48:47 作者: rapoo
关于Linq的sum的问题
当用Linq对double类型进行sum时,结果会出现失真现象,例如本来计算出来的结果应该是220.8,现在得出来的结果是220.79999999999998,请问各位大侠,这是什么问题?怎样解决?
[解决办法]
浮点数丢精度是很正常的,可以考虑调整你的计算顺序,也许会有帮助