VC浮点数精度
请问将两个double类型的浮点数用> , <进行比较,可以比较到小数点后多少位?
这两个浮点数都已经很小,但是不会超过机械0(1.0e-324).
thx.
[解决办法]
要求太高了,在运算多次后,double精度也就保持在小数点后6~10位左右。
即使long double也不会有太多改善。
[解决办法]
还是转换思路吧,都搞成字符串去比较吧
发布时间: 2012-02-08 19:52:21 作者: rapoo
VC浮点数精度
请问将两个double类型的浮点数用> , <进行比较,可以比较到小数点后多少位?
这两个浮点数都已经很小,但是不会超过机械0(1.0e-324).
thx.
[解决办法]
要求太高了,在运算多次后,double精度也就保持在小数点后6~10位左右。
即使long double也不会有太多改善。
[解决办法]
还是转换思路吧,都搞成字符串去比较吧