数字精度
提问:我从EXCEL中读来数据放在数组中,数据类型是double,但是经过求均值计算后直接成了整数,小数点后的没了,怎么弄才能让精确到小数点后三位呢?
[解决办法]
不可能,估计是你的代码中,结果变量定义为 as long
或者,把你的代码贴出来看看
[解决办法]
Format$(Text, "0.00")
发布时间: 2013-06-25 23:45:41 作者: rapoo
数字精度
提问:我从EXCEL中读来数据放在数组中,数据类型是double,但是经过求均值计算后直接成了整数,小数点后的没了,怎么弄才能让精确到小数点后三位呢?
[解决办法]
不可能,估计是你的代码中,结果变量定义为 as long
或者,把你的代码贴出来看看
[解决办法]
Format$(Text, "0.00")