理論:
把測量量滿值等份成4095份。實測值乘以一份的量
工程值=測量值*0.34188034188034188034188034188034
阻礙:
單份非整形數據,需浮點計算
解決方法:
1、轉換為浮點數后計算
優點:精度
缺點:運行速度、寄存器使用量
注意:1N是否支持FLT和INT這兩個數據轉換指令未知。起碼我知道2N以上有……
2、將數值翻倍后取整
優點:速度、寄存器使用量
缺點:精度
注意:單一寄存器有效最大無符號整形數為65535。設置倍率時需留意計算值范圍。窮舉推算的結果最合適倍率為6倍,誤差-2.5%