关系比较符>,==或<的精度是多少?
如题, 如果a<b, 那么(a-b)<eps 这里的eps会是多少呢?跟a,b的类型有关?比如double,那么eps=1.0e-8 ?
[解决办法]
期待达人解答
[解决办法]
#define FLT_EPSILON 1.192092896e-07F /* smallest such that 1.0+FLT_EPSILON != 1.0 */
#define DBL_EPSILON 2.2204460492503131e-016 /* smallest such that 1.0+DBL_EPSILON != 1.0 */
[解决办法]
帮楼上排下版,原文在在float.h中
- C/C++ code
#define FLT_EPSILON 1.192092896e-07F /* smallest such that 1.0+FLT_EPSILON != 1.0 */ #define DBL_EPSILON 2.2204460492503131e-016 /* smallest such that 1.0+DBL_EPSILON != 1.0 */