Post images
為什摸減法會出現這種奇怪的答案R?????

共 12 則回應

0
27是…
1
它設計的時候取的位數不夠多(๑•́ωก̀๑)
1
精確度不夠
0
黑人問號.jpg

應該不是這個問題ㄅ⊙_⊙

原乃如此(۳˚Д˚)۳

我發現十位數以上相差不到1的減法也會這樣⋯
Post images
1
我的意思跟 B3 是一樣的(๑•́ωก̀๑)
電腦在計算是二進位
比如2(DEC) = 10(BIN)
小數一樣

0.5(DEC) = 0.1(BIN)
0.25(DEC) = 0.01(BIN)
其他的數字要取大約值

比如
0.4 = 0.25 + 0.125 + 0.015625 + 0.0078125 + 0.0009765625 + ......
如果取前10位小數就大概是
0.4(DEC) = 0.0110011001(BIN)
換算回來變成
0.4 = 0.3994140625(๑•́ωก̀๑)
0
噢噢噢我誤會你惹(つд⊂)
ㄉㄅㄑ我知識淺薄> <

謝謝你的解釋啦٩(๑´∀`๑)۶
1
0
眼花惹(つд⊂)
1
一般小數的話是用 IEEE 754 標準唷~
該標準定義了float, double, long double的表示方法

所以其實並不像 B5 說的那樣簡單XD
1
B9 感覺好麻煩(๑•́ωก̀๑)
不過如果用一個一個位數算的方式就沒有問題了
0
白帽(=゚ω゚)ノ

覺ㄉ越乃越深奧惹_(:3 」∠ )_
0
計概不是都會教嗎OAO
馬上回應搶第 13 樓...
回應...