szrunluo
級別: *
精華主題: * 篇
發帖數量: * 個
工控威望: * 點
下載積分: * 分
在線時間: (小時)
注冊時間: *
最后登錄: *
查看szrunluo的 主題 / 回貼
樓主  發表于: 2008-07-15 00:14
全看 | 小 中 大
使用除法運算時,DIV,    10000 / 6=1666,   余數是0.666667.       但在PC運行中計算出來的余數是4,我百思不解PC是怎樣轉換過來的結果,
請求高手指點.
zxdha
級別: 略有小成
精華主題: 0
發帖數量: 182 個
工控威望: 247 點
下載積分: 1264 分
在線時間: 47(小時)
注冊時間: 2007-05-17
最后登錄: 2021-05-30
查看zxdha的 主題 / 回貼
1樓  發表于: 2008-07-16 10:26
全看 | 小 中 大
簡單點說，div或ddiv是整數運算指令，在運算時它不會去計算小數點后面的數據，也就是說它只運算到個位數為止，所以余數也一定是整數。如1000除以6等于166，余數肯定為4。

而使用浮點運算從理論上來說是不存在余數的�。�！實際應用中主要看你使用32位計算、還是使用64位計算、還是用128位計算，位數越高精確度也越高。如1000除以6等于166.66666666666.......7。請注意小數點后面的0.66666666666.......7它其實是商，而不是余數�。�！
本帖最近評分記錄：
  • 下載積分:+3(YMMFA) 熱心助人!

    精品国产一区二区三区AV蜜|一本加勒比HEZYO无码|91在线无码精品秘 入口九|天天干天天日天天射|亚洲无码私人影院