读书人

MFC中Cstring转float时精度出现有关问

发布时间: 2013-07-09 09:50:47 作者: rapoo

MFC中Cstring转float时精度出现问题,求助
CString parameterB_Set_Ls;//装置连接电抗,0.00~327.67,mH,默认值78.03
set_parameterB2.GetFieldValue(_T("Set_Ls"),parameterB_Set_Ls);
float value_57=(float)atof(T2A(parameterB_Set_Ls));
int parameterB_INT_Set_Ls;
parameterB_INT_Set_Ls=(int)((value_57+1.0e-6)*100.0);

当我把36.1用此方法转成float时得到了36.09,转36.6时变成了36.59,求各位大神
[解决办法]
或者先乘个100,按整数处理完在除个100
float f=36.1;
f=f*100;
spirntf(..,'%f',f);
...
f=f/100;
[解决办法]
试试FormatFloat函数

读书人网 >C++ Builder

热点推荐