jony7788
級別: 論壇先鋒
|
圖片:
圖片:
用三菱PLC(FX-3U)計算對數,發現同EXCEL直接計算的有差異,兩個數值都是相差0.09,是什么原因造成的呢。 [ 此帖被jony7788在2023-09-29 20:26重新編輯 ] |
---|---|
|
gzcjx555
QQ 296686949
級別: 工控俠客
|
計算精度問題,三菱FX3U只支持單精度浮點計算,32位,EXCEL默認使用雙精度浮點,也就是64位。 |
|
---|---|---|
本帖最近評分記錄:
|
niningtt
級別: 工控俠客
|
你PLC計算的結果0.004,0.007只是四舍五入的三位小數結果,實際按32為浮點數還有幾位有效數字,只是編程軟件沒有顯示出來,不表示那是計算的參數值 |
---|---|
本帖最近評分記錄: |