真的需要大牛帮助!基本类型赋值出错! 我们找了3天了
是这样的,我们出现这样一个问题
EG:
double a = 8/24.0
本来应该是0.33333333下去,我们在调试过程中,等式右边的表达式在Watch里也是正确的0.333333循环,可是赋值过后,a就是0.33359028等这样的值。
明显不是精度不够产生的。赋值不对等。请问是何种原因造成的!!!???
是寄存器错误么?我们基本排除是寄存器出错了。
内存错误?溢出?还是什么
谁遇见过此类问题???!!!
我们快要疯掉了,公司5个人找了3天原因了
[解决办法]
进 C++ 程序后调用下 _control87( _PC_53, MCW_PC ) 把 FPU 设置成缺省精度...
C# Java 之流稀饭把 FPU 设置成 24 位精度以彰显自己浮点性能能够于 Fortran 媲美...