我需要一个运算,先是浮点数计算算,然后乘以一个很大的倍率,但是浮点数不管是加减乘除,都有一个误差如下图,但是乘以200000之后,这个误差累计就很大很大,求大神解决办法
钻石用户推荐最佳答案
主要是看你需要多精确啊?32位浮点型计算误差计划可以忽略啊。再不行你就把所有说先放大N10倍,最后算好再缩回来。
提问者对于答案的评价:
原创文章,作者:ximenziask,如若转载,请注明出处:https://www.zhaoplc.com/plc360133.html
我需要一个运算,先是浮点数计算算,然后乘以一个很大的倍率,但是浮点数不管是加减乘除,都有一个误差如下图,但是乘以200000之后,这个误差累计就很大很大,求大神解决办法
钻石用户推荐最佳答案
主要是看你需要多精确啊?32位浮点型计算误差计划可以忽略啊。再不行你就把所有说先放大N10倍,最后算好再缩回来。
提问者对于答案的评价:
原创文章,作者:ximenziask,如若转载,请注明出处:https://www.zhaoplc.com/plc360133.html