[python基礎] 浮點數乘法的誤差問題
阿新 • • 發佈:2017-10-07
clas 問題 就會 www. 精確 相關 col 之間 http
,往往會得到意想不到的結果。
>>> 2.2*3 6.6000000000000005
詳細的原理在IEEE 754浮點數標準
小數以二進制形式表示時的有窮性導致的,
這不是Python的問題,而是實數的無限精度跟計算機的有限內存之間的矛盾
計算機的內存、cpu寄存器等等這些硬件單元都是有限的,只能表示有限位數的二進制位,因此存儲的二進制小數就會和實際轉換而成的二進制數有一定的誤差。(你可以試著將0.3轉化為二進制表示,也將出現一個循環小數。)
實際上,大多數情況下,小數在計算機中是以一種類似科學計數法的形式表示的,具體的可以參考一下其他的資料。但即便如此,仍然存在誤差。
所以在python中不建議直接將兩個浮點數進行大小比較,或者做精確的計算
關於控制精度的方法可以使用round和decimal模塊
使用decimal模塊計算時:
>>> from decimal import * >>> Decimal(‘2.2‘)*Decimal(‘3‘) Decimal(‘6.6‘)
相關鏈接
https://www.zhihu.com/question/25457573
[python基礎] 浮點數乘法的誤差問題