floating point overflow如何解决？ - C++ Builder / Windows SDK/API
执行如下代码，产生“floating point overflow”异常，注释掉这些代码，无异常。
如何解决呀？

for( i = 0 ; i < iVarNum ; i ++ )
for( j = i ; j < iVarNum ; j ++ )
pCORR[i][j] = (pCORR[i][j]-pSUM[i]*pSUM [j]/n)/n;


[解决办法]
pCORR[i][j] = (pCORR[i][j]-pSUM[i]*pSUM [j]/n)/n;
这里放个断点调试一下
[解决办法]

探讨

除以n的时候(/n)
的n0了
在for里 加一判 为0调出来

[解决办法]
木天理啊。

加个断点，单步调试看看，第一次循环时，dTempVar2和dTempVar1的值，分别是多少？