久久久国产一区二区_国产精品av电影_日韩精品中文字幕一区二区三区_精品一区二区三区免费毛片爱

機械社區

標題: 請教，那位大俠能解決宏程序計算中的數值溢出問題 [打印本頁]

作者: 少年游 時間: 2009-9-6 12:15
標題: 請教，那位大俠能解決宏程序計算中的數值溢出問題
最近編了一個宏程序，其中有一個計算數值的程序段“#110=6.0-6.3+0.3”其結果應該得0。但在存儲器中顯示的是“******" 這應該是十進制轉換為二進制計算后出現的溢出現象，但要是采用取整的方法，加工精度會受到影響。請教各位大俠，是否有更好的方法。

作者: 車刀 時間: 2009-9-6 16:00
用INT表示向上取整，假如你要的精度是0.001，那么
#110=(INT(INT((6.0-6.3+0.3)*1000))-0.1))/1000

作者: 少年游 時間: 2012-1-19 13:31
謝謝大俠指教{:soso_e179:}

歡迎光臨機械社區 (http://www.ytsybjq.com/)