读书人

浮点计算 高精度,该怎么解决

发布时间: 2013-12-29 13:07:03 作者: rapoo

浮点计算 高精度
大家都知道浮点运算。c语言里float有效位是5或6,现在编写一个浮点程序。比如就计算1+0.1,怎么让它自动转换成高精度运算的程序使得输出尽可能精确
[解决办法]
(double)1 + (double)0.1

引用:
大家都知道浮点运算。c语言里float有效位是5或6,现在编写一个浮点程序。比如就计算1+0.1,怎么让它自动转换成高精度运算的程序使得输出尽可能精确

[解决办法]
要求很准确就使用double
或者自定义高精度数
[解决办法]
引用:
(double)1 + (double)0.1

Quote: 引用:

大家都知道浮点运算。c语言里float有效位是5或6,现在编写一个浮点程序。比如就计算1+0.1,怎么让它自动转换成高精度运算的程序使得输出尽可能精确


引用:
要求很准确就使用double
或者自定义高精度数
++++
[解决办法]
用10进制小数不能精确表示某些三进制小数0.1(3)=0.33333333333……(10)
同理,用二进制小数也不能精确表示某些10进制小数。

[解决办法]
转换成 int 类型计算
[解决办法]
有定点数的库。

读书人网 >C语言

热点推荐