关于浮点数计算的问题

我需要一个运算,先是浮点数计算算,然后乘以一个很大的倍率,但是浮点数不管是加减乘除,都有一个误差如下图,但是乘以200000之后,这个误差累计就很大很大,求大神解决办法

钻石用户推荐最佳答案

主要是看你需要多精确啊?32位浮点型计算误差计划可以忽略啊。再不行你就把所有说先放大N10倍,最后算好再缩回来。

提问者对于答案的评价:

原创文章,作者:ximenziask,如若转载,请注明出处:https://www.zhaoplc.com/plc360133.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2021年7月5日
下一篇 2021年7月5日

相关推荐

发表回复

登录后才能评论