用戶登陸
免費注冊
找回密碼
站內短信
論壇搜索
工控下載
用戶名
密碼
輸入驗證碼:
認真
綜合討論
資料互助
程序樣例
三菱工控
西門子區
歐姆龍區
觸摸屏區
工控人家園
綜合討論
一個關于浮點數除法的疑問
上一主題
下一主題
科技改變未來
知識就是讓你禿頭的力量
級別: 家園?
發送短信
加為好友
精華主題:
0
發帖數量:
553 個
工控威望:
759 點
下載積分:
10389 分
在線時間: 439(小時)
注冊時間:
2011-04-18
最后登錄:
2025-01-13
查看科技改變未來的
主題
/
回貼
樓主
發表于: 2022-08-24 10:44
全看
|
小
中
大
圖片:
圖片:
如圖通過模擬發現 被除數小于82時候,算出的結果是準的 。被除數大于83 ,為什么結果就不準了呢/有知道原因的小伙伴嗎
分享
niningtt
級別: 工控俠客
發送短信
加為好友
QQ聯系
精華主題:
0
發帖數量:
1233 個
工控威望:
3553 點
下載積分:
850 分
在線時間: 461(小時)
注冊時間:
2010-08-24
最后登錄:
2025-07-29
查看niningtt的
主題
/
回貼
1樓
發表于: 2022-08-25 11:54
全看
|
小
中
大
IEEE 754 浮點數的尾數部分是23位,也就是23位的二進制是真正實現數值的精度的,指數可以近似理解為確定小數點位數(這么說便于理解)。1/128=0.0078125,也就在這附近了,精度不夠了,所以浮點數不需要糾結最后面的小數,只要小數點前位數多,小數點后就會出現,甚至太多的話個位、十位、百位都有可能北省去
分享
上一主題
下一主題
工控人家園
綜合討論
一個關于浮點數除法的疑問
http://www.wentianyingyuan.com
訪問內容超出本站范圍,不能確定是否安全
繼續訪問
取消訪問
精品国产一区二区三区AV蜜|一本加勒比HEZYO无码|91在线无码精品秘 入口九|天天干天天日天天射|亚洲无码私人影院