问问, 一个变量的值是 9.368e-039#DEN 表示一个什么数?
在vs 2008 里面 watch 一个变量的值, 显示: 9.368e-039#DEN
是 9.368/(10的39次方) ?
后面的#DEN 表示什么意思啊?
谢谢
[解决办法]
9.368
乘以10的-39次方
[解决办法]
科学计数法
[解决办法]
这是一个无限接近0的小数,等于9.368*10^-39,由于计算机本身的问题,表示0均用一个很小的数表示,所以也就出现了当判断一个数是否为0时,不能通过
double number;
if(number == 0.0f)
而用
#define ZERO 1e-8
if(fabs(number) < ZERO)
[解决办法]
楼主都问得这么明确了,就应该明确回答嘛 :)
#DEN表示这是一个denormalized number,它的含义自己google吧