读书人

cad 软件数值运算与精度有关问题

发布时间: 2012-02-10 21:27:42 作者: rapoo

cad 软件数值运算与精度问题
作cad软件,对数值表示可能会有整型和浮点型两种选择;对于中间运算,整型表示下,可能需要转成浮点型进行中间运算,也听说有的是完全用整数运算模拟,浮点型表示下,也要特别注意浮点运算的误差。更高级的可能是自己定义数据类型,以达到任意精度的精确运算。
现在遇到这样的设计难题,哪位前辈高人有这方面的经验或者知道相关资料,诚望赐教。
小弟先谢谢了!

[解决办法]
我以前做过一些这方面的工作,包括VLSI和数控方面CAD.
不知道你在做什么方面的CAD,需要如此高的精度?



[解决办法]
用分数表示,
弄一个结构体 ,里面2个成员 一个分子, 一个分母吗

读书人网 >软件架构设计

热点推荐