1. 程式人生 > >python(四)上:列表生成式、生成器、迭代器和內建函式

python(四)上:列表生成式、生成器、迭代器和內建函式

目錄

列表生成式
生成器
迭代器
內建函式

一、列表生成式

列表生成式即List Comprehensions,是Python內建的非常簡單卻強大的可以用來建立list的生成式。
舉個例子,要生成list [1, 2, 3, 4, 5, 6, 7, 8, 9, 10]可以用list(range(1, 11)):

>>> list(range(1, 11))
[1, 2, 3, 4, 5, 6, 7, 8, 9, 10]

但如果要生成[1x1, 2x2, 3x3, …, 10x10]怎麼做?方法一是迴圈:

>>> L = []
>>> for
x in range(1, 11): ... L.append(x * x) ... >>> L [1, 4, 9, 16, 25, 36, 49, 64, 81, 100]

但是迴圈太繁瑣,而列表生成式則可以用一行語句代替迴圈生成上面的list:

>>> [x * x for x in range(1, 11)]
[1, 4, 9, 16, 25, 36, 49, 64, 81, 100]

還可以使用兩層迴圈,可以生成全排列:

>>> [m + n for m in 'ABC' for n in 'XYZ']
['AX', 'AY'
, 'AZ', 'BX', 'BY', 'BZ', 'CX', 'CY', 'CZ']

for迴圈其實可以同時使用兩個甚至多個變數,比如dict的items()可以同時迭代key和value:

>>> d = {'x': 'A', 'y': 'B', 'z': 'C' }
>>> for k, v in d.items():
...     print(k, '=', v)
...
y = B
x = A
z = C

因此,列表生成式也可以使用兩個變數來生成list:

>>> d = {'x': 'A', 'y': 'B', 'z'
: 'C' } >>> [k + '=' + v for k, v in d.items()] ['y=B', 'x=A', 'z=C']

把一個list中所有的字串變成小寫:

>>> L = ['Hello', 'World', 'IBM', 'Apple']
>>> [s.lower() for s in L]
['hello', 'world', 'ibm', 'apple']

最後列表生成器結合函式。

>>> def func(num):
...     print(num)
...
>>> [func(i) for i in range(3)]
0
1
2
[None, None, None]

二、生成器

通過列表生成式,可以建立一個列表。但是,受到記憶體限制,列表容量肯定是有限的。而且,建立一個包含100萬個元素的列表,不僅佔用很大的儲存空間,如果我們僅僅需要訪問前面幾個元素,那後面絕大多數元素佔用的空間都白白浪費了。

所以,如果列表元素可以按照某種演算法推算出來,那我們是否可以在迴圈的過程中不斷推算出後續的元素呢?這樣就不必建立完整的list,從而節省大量的空間。在Python中,這種一邊迴圈一邊計算的機制,稱為生成器:generator。

  • 第一種方法,只要把一個列表生成式的[]改成()

要建立一個generator,有很多種方法。第一種方法很簡單,只要把一個列表生成式的[]改成(),就建立了一個generator:

>>> L = [x * x for x in range(10)]
>>> L
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
>>> g = (x * x for x in range(10))
>>> g
<generator object <genexpr> at 0x1022ef630>

如果要一個一個打印出來,可以通過next()函式獲得generator的下一個返回值:

>>> next(g)
0
>>> next(g)
1
>>> next(g)
4
……
>>> next(g)
64
>>> next(g)
81
>>> next(g)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
StopIteration

我們講過,generator儲存的是演算法,每次呼叫next(g),就計算出g的下一個元素的值,直到計算到最後一個元素,沒有更多的元素時,丟擲StopIteration的錯誤。

當然,上面這種不斷呼叫next(g)實在是太變態了,正確的方法是使用for迴圈,因為generator也是可迭代物件:

>>> g = (x * x for x in range(10))
>>> for n in g:
...     print(n)
  • 第二種方法,函式實現

generator非常強大。如果推算的演算法比較複雜,用類似列表生成式的for迴圈無法實現的時候,還可以用函式來實現。
比如,著名的斐波拉契數列(Fibonacci),除第一個和第二個數外,任意一個數都可由前兩個數相加得到:
1, 1, 2, 3, 5, 8, 13, 21, 34, …
斐波拉契數列用列表生成式寫不出來,但是,用函式把它打印出來卻很容易:

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        print(b)
        a, b = b, a + b
        n = n + 1
    return 'done'

注意,賦值語句:

a, b = b, a + b
# 錯誤以為,等同於一下:
# a = b
# b = a + b

其實,等同於:

t = (b, a + b)  # t是一個tuple
a = t[0]
b = t[1]

但不必顯式寫出臨時變數t就可以賦值。

上面的函式可以輸出斐波那契數列的前N個數:

>>> fib(5)
1
1
2
3
5
done

fib函式實際上是定義了斐波拉契數列的推算規則,可以從第一個元素開始,推算出後續任意的元素,這種邏輯其實非常類似generator。
要把fib函式變成generator,只需要把print(b)改為yield b就可以了:

def fib(max):
    n,a,b = 0,0,1

    while n < max:
        #print(b)
        yield  b
        a,b = b,a+b

        n += 1

    return 'done'

這就是定義generator的另一種方法。如果一個函式定義中包含yield關鍵字,那麼這個函式就不再是一個普通函式,而是一個generator:

>>> f = fib(6)
>>> f
<generator object fib at 0x104feaaa0>

這裡,最難理解的就是generator和函式的執行流程不一樣。函式是順序執行,遇到return語句或者最後一行函式語句就返回。而變成generator的函式,在每次呼叫next()的時候執行,遇到yield語句返回,再次執行時從上次返回的yield語句處繼續執行。
同樣的,把函式改成generator後,我們基本上從來不會用next()來獲取下一個返回值,而是直接使用for迴圈來迭代:
但是用for迴圈呼叫generator時,發現拿不到generator的return語句的返回值。如果想要拿到返回值,必須捕獲StopIteration錯誤,返回值包含在StopIteration的value中:

>>> g = fib(6)
>>> while True:
...     try:
...         x = next(g)
...         print('g:', x)
...     except StopIteration as e:
...         print('Generator return value:', e.value)
...         break
...
g: 1
g: 1
g: 2
g: 3
g: 5
g: 8
Generator return value: done

還可通過yield實現在單執行緒的情況下實現併發運算的效果 

import time
def consumer(name):  # 消費者
    print("%s 準備吃包子啦!" %name)
    while True:
        baozi = yield
        print("包子【%s】來了,被【%s】吃了!" %(baozi, name))

def producer():   # 生產者
    c = consumer('A')
    c2 = consumer('B')

    c.__next__()
    next(c2)

    print("開始做包子了!")
    for i in ["韭菜餡","茴香餡","雞蛋餡","豬肉餡"]:
        time.sleep(1.5)
        print("做了兩個個包子")
        c.send(i)       #------------------------
        c2.send(i)      # .send(i):給yield傳送值

producer()

小結

  1. 生成式:一邊迴圈一邊計算,呼叫的時候才生成,只有在呼叫時才回生成相應的資料。只記錄當前位置,只有一個next方法。(next和 __next__)
  2. 取值:使用for 迴圈
    c.__next__()這個方法,超出值後丟擲異常為返回值。)迴圈不會。
  3. .send():給yield傳送值
  4. 變成generator的函式,在每次呼叫next()的時候執行,遇到yield語句返回,再次執行時從上次返回的yield語句處繼續執行。

三、迭代器

我們已經知道,可以直接作用於for迴圈的資料型別有以下幾種:
一類是集合資料型別,如list、tuple、dict、set、str等;
一類是generator,包括生成器和帶yield的generator function。
這些可以直接作用於for迴圈的物件統稱為可迭代物件:Iterable
可以使用isinstance()判斷一個物件是否是Iterable物件:

>>> from collections import Iterable
>>> isinstance([], Iterable)
True
>>> isinstance({}, Iterable)
True
>>> isinstance('abc', Iterable)
True
>>> isinstance((x for x in range(10)), Iterable)
True
>>> isinstance(100, Iterable)
False

而生成器不但可以作用於for迴圈,還可以被next()函式不斷呼叫並返回下一個值,直到最後丟擲StopIteration錯誤表示無法繼續返回下一個值了。
可以被next()函式呼叫並不斷返回下一個值的物件稱為迭代器:Iterator
可以使用isinstance()判斷一個物件是否是Iterator物件:

>>> from collections import Iterator
>>> isinstance((x for x in range(10)), Iterator)
True
>>> isinstance([], Iterator)
False
>>> isinstance({}, Iterator)
False
>>> isinstance('abc', Iterator)
False

生成器都是Iterator物件,但list、dict、str雖然是Iterable,卻不是Iterator。

把list、dict、str等Iterable變成Iterator可以使用iter()函式:

>>> isinstance(iter([]), Iterator)
True
>>> isinstance(iter('abc'), Iterator)
True

你可能會問,為什麼list、dict、str等資料型別不是Iterator?
這是因為Python的Iterator物件表示的是一個數據流,Iterator物件可以被next()函式呼叫並不斷返回下一個資料,直到沒有資料時丟擲StopIteration錯誤。可以把這個資料流看做是一個有序序列,但我們卻不能提前知道序列的長度,只能不斷通過next()函式實現按需計算下一個資料,所以Iterator的計算是惰性的,只有在需要返回下一個資料時它才會計算。
Iterator甚至可以表示一個無限大的資料流,例如全體自然數。而使用list是永遠不可能儲存全體自然數的。
python版本:
3.x:range() 是迭代器
2.x:range() 是列表,xrange()是迭代器
小結

  1. 凡是可作用於for迴圈的物件都是Iterable型別;
  2. 凡是可作用於next()函式的物件都是Iterator型別,它們表示一個惰性計算的序列;
    所以生成器一定是迭代器。
  3. 集合資料型別如list、dict、str等是Iterable但不是Iterator,不過可以通過iter()函式獲得一個Iterator物件。

四、內建函式

  • filter(function_or_None,iterable) :一組資料裡面過濾出符合條件的,返回迭代器
  • map(func,*iterables) :對你傳入的每個值進行處理,返回迭代器
  • functools.reduce(function,sequence,initial=None)
# filter()  一組資料過濾出你想要的來
res = filter(lambda n:n>5,range(10))
for i in res :
    print(i)
# map()  對傳入的每個值進行處理返回一個列表
res = map(lambda n:n*2, range(10))
# res = [i*2 for i in range(10)]
# res = [ lambda i:i*2 for i in range(10)]
for i in res:
    print(i)

reduce函式(python3中不屬於內建函式)是一個二元操作函式,他用來將一個數據集合(連結串列,元組等)中的所有資料進行下列操作:用傳給reduce中的函式 func()(必須是一個二元操作函式)先對集合中的第1,2個數據進行操作,得到的結果再與第三個資料用func()函式運算,最後得到一個結果。

from  functools import reduce

# 普通函式實現
def myadd(x,y):   
    return x+y   
res = reduce(myadd, range(10))   
print(res)  

# 匿名函式實現
res = reduce(lambda x,y:x+y, range(10))
print(res)
# 這種方式用lambda表示當做引數,因為沒有提供reduce的第三個引數,
# 所以第一次執行時x=1,y=2,第二次x=1+2,y=3,即列表的第三個元素  
>>> abs(-1)          # abs 絕對值
1
max 最大值    min 最小值    sum 求和 
>>> divmod(7,3)      # divmod 商除
(2, 1)
>>> pow(2,8)         # pow 2的8次方
256
>>> round(1.3342, 2) # round 精確小數點
1.33
>>> a = frozenset(set([1,2,2,6,6]))
>>> a                # frozenset 把集合變成只讀集合
frozenset({1, 2, 6})
>>> hash("fgf")      # hash 得到hash值
-3999898619896197237
>>> all([-5, 0, 3])  # all 全真則真
False
>>> any([-5, 0, 3])  # any 一真則真
True
>>>next()            # 取下一個值
>>> a = {}
>>> dir(a)           # dir 檢視可用方法
['__class__', '__contains__', '__delattr__', '__delitem__', '__dir__', '__doc__'
>>> id(a)            # id 返回記憶體地址
2243411483112
>>> bin(8)           # bin 十進位制轉二進位制
'0b1000'  
>>> hex(200)         # hex  把十進位制轉成16進位制
'0xc8'
>>> oct(10)          # oct 把十進位制轉成8進位制
'0o12'
>>> bool(0)          # bool 布林值
False
>>> a = [1,3,4,6]
>>> b = reversed(a)  # reversed 反轉為一個迭代器
>>> next(b)
6
>>> next(b)
4
>>> a = {6:2, 8:0, 1:4, -5:5, 99:11} # sorted 排序
>>> print(sorted(a.items()))
[(-5, 5), (1, 4), (6, 2), (8, 0), (99, 11)]

                     # bytearray 通過assic碼更改變數
>>> b=bytearray("abcd",encoding='utf-8')
>>> print(b[0])
97
>>> b[0]=50
>>> print(b)
bytearray(b'2bcd')

>>> def a():
...     pass
>>> callable(a)     # callable 判斷可不可以加括號
True

>>> chr(97)         # chr 返回數字assic的表對應的值
'a'
>>> ord('d')        # ord 返回值的assic對應數字
100
>>> exec("print('hello')")  
hello               # exec 執行字串
>>> dict = eval("{'a':1,'b':2}")
>>> dict            # eval 將字串轉為字典
{'b': 2, 'a': 1}

zip  拉鍊
a = [1,2,3,4]
b = ["a",'b',"c"]
for i in zip(a,b):
    print(i)

__import__('deco')  # 匯入字串型別模組名

print(globals())    # 返回全域性變數所有的key-values模式
globals().get(a)
locals()
classmethod()       # 類方法
getattr
delattr 面向物件之後講