浮点数运算不精确问题如何解决
rt
[解决办法]
取一个范围,两个数之差在一个范围内就认为它们相等就行了
[解决办法]
if abs(a-b)<1e-6 the
ShowMessge('a=b')
我常用这种办法
发布时间: 2012-02-28 13:06:34 作者: rapoo
浮点数运算不精确问题如何解决
rt
[解决办法]
取一个范围,两个数之差在一个范围内就认为它们相等就行了
[解决办法]
if abs(a-b)<1e-6 the
ShowMessge('a=b')
我常用这种办法