1. 程式人生 > >python學習筆記:浮點數計算問題(20180920)

python學習筆記:浮點數計算問題(20180920)

 

 

python輸出過程:一個十進位制數———以二進位制形式(近似值)儲存到計算機———輸出該二進位制近似值的十進位制近似值

舉例:浮點數0.3的二進位制表示

十進位制小數二進位制採用"乘2取整,順序排列"法。具體做法是:用2乘十進位制小數,將積的整數部分取出,再用2乘餘下的小數部分,再將積的整數部分取出,如此迴圈,直到積中的小數部分為零,此時0或1為二進位制的最後一位。或者達到所要求的精度為止。然後把取出的整數部分按順序排列起來,先取的整數作為二進位制小數的高位有效位,後取的整數作為低位有效位。

0.3×2=0.6    取0

0.6×2=1.2    取1

0.2×2=0.4    取0

0.4×2=0.8    取0

0.8×2=1.6    取1

0.6×2=1.2    取1(此處開始迴圈)

故:0.3的二進位制表示為0.010011001......(1001迴圈),對於計算機而言,只能儲存有限位數的二進位制數。

二進位制換為十進位制,過程如下:

0.010011001=2^(-2)+2^(-5)+2^(-6)+2^(-9)≈1/4+1/32+1/64+1/512≈0.25+0.03125+0.015625+0.001953125≈0.298828125

所以,在python中直接將兩個浮點數進行大小比較,或者做精確的計算,往往會得到意想不到的結果

一、大小比較問題:可以用math模組解決。

>import math

>webbrowser.open("https://docs.python.org/3/library/math.html")

#never use == with floats!
print("equality testing with math.isclose")
print("The problem...")
d1=0.1+0.1+0.1
d2=0.3
print(d1==d2)                #false
print()
print("The solution...")
print(math.isclose(d1,d2))   #true
#math.isclose checks import mathif the two numbers are almost equal within a small error!     

二、數值計算問題:可以用decimal.Decimal解決

import decimal      #or from decimal import Decimal
decimal.Decimal('3')-decimal.Decimal('1.3')      #output 1.7

 **注意Decimal(str(n)),括號內是先將其轉換為字串!