久久久国产一区二区_国产精品av电影_日韩精品中文字幕一区二区三区_精品一区二区三区免费毛片爱

 找回密碼
 注冊會員

QQ登錄

只需一步,快速開始

搜索
查看: 2197|回復: 2

請教,那位大俠能解決宏程序計算中的數值溢出問題

[復制鏈接]
1#
發表于 2009-9-6 12:15:43 | 只看該作者 |倒序瀏覽 |閱讀模式
最近編了一個宏程序,其中有一個計算數值的程序段“#110=6.0-6.3+0.3”其結果應該得0。但在存儲器中顯示的是“******" 這應該是十進制轉換為二進制計算后出現的溢出現象,但要是采用取整的方法,加工精度會受到影響。請教各位大俠,是否有更好的方法。
回復

使用道具 舉報

2#
發表于 2009-9-6 16:00:15 | 只看該作者
用INT表示向上取整,假如你要的精度是0.001,那么7 C- H* e9 e" U7 X" K$ }
#110=(INT(INT((6.0-6.3+0.3)*1000))-0.1))/1000
3#
 樓主| 發表于 2012-1-19 13:31:08 | 只看該作者
謝謝大俠指教{:soso_e179:}
您需要登錄后才可以回帖 登錄 | 注冊會員

本版積分規則

Archiver|手機版|小黑屋|機械社區 ( 京ICP備10217105號-1,京ICP證050210號,浙公網安備33038202004372號 )

GMT+8, 2025-7-26 23:07 , Processed in 0.057812 second(s), 14 queries , Gzip On.

Powered by Discuz! X3.5 Licensed

© 2001-2025 Discuz! Team.

快速回復 返回頂部 返回列表