如何把real型变成双整型

比如说把3.57实数变成双整形,不是利用RND或者TRUNC指令,这样转换的话只是取了个整数,我想进行转换是没有误差的转换,望高手指点。

问题补充:
zhangli0!不要在这装B装大爷,这个是技术讨论的平台。不要拿知识装深沉,让人感觉一把年纪了还那么无知。

最佳答案

实数变整数就是有误差的。
就像您把3.14变整数,无论如何都会产生偏差。
所以编程时一定注意算法,尽量先算不损失精度操作,最后再做取整、整数除法等损失精度的运算。
为了保持思路连贯,我习惯上都是先将整数转换成浮点数进行加减乘除,最后再换成整数输出。

提问者对于答案的评价:
OK

原创文章,作者:more0621,如若转载,请注明出处:https://www.zhaoplc.com/plc249515.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2018年12月2日 下午4:54
下一篇 2018年12月2日

相关推荐