python學習筆記:浮點數計算問題(20180920)
阿新 • • 發佈:2018-11-11
python輸出過程:一個十進位制數———以二進位制形式(近似值)儲存到計算機———輸出該二進位制近似值的十進位制近似值
舉例:浮點數0.3的二進位制表示
十進位制小數轉二進位制採用"乘2取整,順序排列"法。具體做法是:用2乘十進位制小數,將積的整數部分取出,再用2乘餘下的小數部分,再將積的整數部分取出,如此迴圈,直到積中的小數部分為零,此時0或1為二進位制的最後一位。或者達到所要求的精度為止。然後把取出的整數部分按順序排列起來,先取的整數作為二進位制小數的高位有效位,後取的整數作為低位有效位。
0.3×2=0.6 取0
0.6×2=1.2 取1
0.2×2=0.4 取0
0.4×2=0.8 取0
0.8×2=1.6 取1
0.6×2=1.2 取1(此處開始迴圈)
故:0.3的二進位制表示為0.010011001......(1001迴圈),對於計算機而言,只能儲存有限位數的二進位制數。
二進位制換為十進位制,過程如下:
0.010011001=2^(-2)+2^(-5)+2^(-6)+2^(-9)≈1/4+1/32+1/64+1/512≈0.25+0.03125+0.015625+0.001953125≈0.298828125
☆所以,在python中直接將兩個浮點數進行大小比較,或者做精確的計算,往往會得到意想不到的結果 。
一、大小比較問題:可以用math模組解決。
>import math
>webbrowser.open("https://docs.python.org/3/library/math.html")
#never use == with floats! print("equality testing with math.isclose") print("The problem...") d1=0.1+0.1+0.1 d2=0.3 print(d1==d2) #false print() print("The solution...") print(math.isclose(d1,d2)) #true #math.isclose checks import mathif the two numbers are almost equal within a small error!
二、數值計算問題:可以用decimal.Decimal解決
import decimal #or from decimal import Decimal
decimal.Decimal('3')-decimal.Decimal('1.3') #output 1.7
**注意Decimal(str(n)),括號內是先將其轉換為字串!