读书人

浮点数运算不精确有关问题怎么解决

发布时间: 2012-02-28 13:06:34 作者: rapoo

浮点数运算不精确问题如何解决
rt

[解决办法]
取一个范围,两个数之差在一个范围内就认为它们相等就行了
[解决办法]
if abs(a-b)<1e-6 the
ShowMessge('a=b')
我常用这种办法

读书人网 >.NET

热点推荐