在有大量公式的实数计算中的精确度如何?

n

描述:
一般来讲,实数的定义和计算可保持精确到小数点后6位。计算时还要注意这一精度要在计算的每一步中保持。n

加和减时,按指数归齐,也就是基数和指数对加和减相同,只加入尾数。n

样例1:

要计算:n

y = a + b - c;

z =1 / y;

使用n

a = 100 000 000 即实数值 = 1.000000*108n

b = 1 即实数值 = 1.000000*100n

c = 100 000 000 即实数值 = 1.000000*108n

  • 在第一步计算中(a + b)计算为:
    (a + b) = 1.000000*108 + 1.000000*100 在指数对齐后得到
    (a + b) = 1.000000*108 + 0.00000001*108. 最后两位被截掉,因为它们不能再显示(精确到小数点后6位)。n
  • 所以加上零。
  • 在第二步计算((a + b)-c)中,c要从前一步计算结果中减去:
    ((a + b)-c) = 1.000000*108 - 1.000000*108 = 0.000000e0n
  • 如果现在求z,那么除数即为零。

这种情况下正确的答案可通过转换计算公式得到。n

y = a - c + b;

z = 1 / y;

在这里,计算(a - c)后,得到 结果为0.000000e0 ,在第二步计算 ((a -c) + b),实数相加得到正确的结果。n

y = 0.000000*100 + 1.00000*100 = 1.000000*100

因此,在计算编程前,应该始终检查如何计算最好。
更多信息也可见STEP 7在线帮助中的主题“实数:数据类型”下。n

样例2

在此例中实数160.0被实数100.0除。这个计算有两个方案:160.0 / 100.0或者160.0 * 0.01,因此对第二个方案必须遵守 以下几点。根据下表1两个计算方案会得到相同的结果,但在十六进制的格式中有不同的精度。

方案1: 方案2:
STEP 7 S7-SCL STEP 7 S7-SCL
L 1.6e+002 X1 = 1.6e+002 L 1.6e+002 X3 = 1.6e+002
L 1.0e-002 X2 = 1.0e-002 L 1.0e+002 X4 = 1.0e+002
*R Y1 = X1 * X2
= 1.6 * 1.0 e(+002-002)
/R Y2 = X3 / X4
= (1.6 / 1.0) e(+002-002)
T MD0 Y1 = 1.6 T MD4 Y2 = 1.6

表1:LAD/FBD/STL编辑器中实数除法的两种不同方案

其原因是方案一中的两个实数160.0和0.01,在数字标尺上比方案二中的两个实数160.0和100.0离得更远。这影响到为LAD/FBD/STL编辑器中的带S7-SCL选项包的STEP 7提供的计算精确度。

LAD/FBD/STL编辑器中的STEP 7样例计算
在变量表(图1)中,两个标记双字MD0和MD4以HEX格式和浮点格式各显示一次。实数值在两个方案中相同,都为1.6,但在HEX显示中最后两位因一个HEX值而不同。

在有大量公式的实数计算中的精确度如何?

图1:LAD/FBD/STL编辑器中的两种计算方案程序

使用S7-SCL选项包的样例计算:
以下S7-SCL程序包含两个函数。用函数FC10通过“X1*X2”实现实数除法而用函数FC11可用“X3/X4”实现除法。当函数在OB1中调用时结果传送到标记双字MD10和MD20。

在有大量公式的实数计算中的精确度如何?

图2:用于表1中两种计算方案的S7-SCL程序

函数的结果(MD10和MD20)在“ Monitor/Control Variables”表中各自以HEX和浮点格式显示。这里两种方案中的实数也都是1.6,但在HEX显示中最后两位因一个HEX值而不同。

在有大量公式的实数计算中的精确度如何?

图3:S7-SCL中以HEX和浮点格式显示结果的“Monitor/Control Variables”表

关键字:
计算精确度

原创文章,作者:ximenziask,如若转载,请注明出处:https://www.zhaoplc.com/plc339363.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2020年11月5日 下午12:03
下一篇 2021年4月12日 上午12:00

相关推荐

发表回复

登录后才能评论