1. 程式人生 > >十分鐘搞定pandas

十分鐘搞定pandas

這是對官方doc的一個翻譯

原帖地址 :http://www.cnblogs.com/chaosimple/p/4153083.html

官方地址 :http://pandas.pydata.org/pandas-docs/stable/10min.html

一、           建立物件

1、可以通過傳遞一個list物件來建立一個Series,pandas會預設建立整型索引:

2、通過傳遞一個numpyarray,時間索引以及列標籤來建立一個DataFrame:

3、通過傳遞一個能夠被轉換成類似序列結構的字典物件來建立一個DataFrame:

4、檢視不同列的資料型別:

5、如果你使用的是IPython,使用Tab自動補全功能會自動識別所有的屬性以及自定義的列,下圖中是所有能夠被自動識別的屬性的一個子集:

二、           檢視資料

1、  檢視frame中頭部和尾部的行:

2、  顯示索引、列和底層的numpy資料:

3、  describe()函式對於資料的快速統計彙總:

4、  對資料的轉置:

5、  按軸進行排序

6、  按值進行排序

三、           選擇

雖然標準的Python/Numpy的選擇和設定表示式都能夠直接派上用場,但是作為工程使用的程式碼,我們推薦使用經過優化的pandas資料訪問方式: .at.iat.loc.iloc.ix詳情請參閱Indexingand Selecing DataMultiIndex/ Advanced Indexing

獲取

1、 選擇一個單獨的列,這將會返回一個Series,等同於df.A

2、 通過[]進行選擇,這將會對行進行切片

通過標籤選擇

1、 使用標籤來獲取一個交叉的區域

2、 通過標籤來在多個軸上進行選擇

3、 標籤切片

4、 對於返回的物件進行維度縮減

5、 獲取一個標量

6、 快速訪問一個標量(與上一個方法等價)

通過位置選擇

1、 通過傳遞數值進行位置選擇(選擇的是行)

2、 通過數值進行切片,與numpy/python中的情況類似

3、 通過指定一個位置的列表,與numpy/python中的情況類似

4、 對行進行切片

5、 對列進行切片

6、

獲取特定的值

布林索引

1、 使用一個單獨列的值來選擇資料:

2、 使用where操作來選擇資料:

3、 使用isin()方法來過濾:

設定

1、 設定一個新的列:

2、 通過標籤設定新的值:

3、 通過位置設定新的值:

4、 通過一個numpy陣列設定一組新值:

上述操作結果如下:

5、 通過where操作來設定新的值:

四、           缺失值處理

在pandas中,使用np.nan來代替缺失值,這些值將預設不會包含在計算中,詳情請參閱:Missing Data Section

1、  reindex()方法可以對指定軸上的索引進行改變/增加/刪除操作,這將返回原始資料的一個拷貝:、

2、  去掉包含缺失值的行:

3、  對缺失值進行填充:

4、  對資料進行布林填充:

五、           相關操作

l  統計(相關操作通常情況下不包括缺失值)

1、  執行描述性統計:

2、  在其他軸上進行相同的操作:

3、  對於擁有不同維度,需要對齊的物件進行操作。Pandas會自動的沿著指定的維度進行廣播:

l  Apply

1、  對資料應用函式:

l  直方圖

l  字串方法

Series物件在其str屬性中配備了一組字串處理方法,可以很容易的應用到陣列中的每個元素,如下段程式碼所示。更多詳情請參考:Vectorized String Methods.

六、           合併

Pandas提供了大量的方法能夠輕鬆的對Series,DataFrame和Panel物件進行各種符合各種邏輯關係的合併操作。具體請參閱:Mergingsection

l  Concat

l  Append 將一行連線到一個DataFrame上,具體請參閱Appending

七、           分組

對於”group by”操作,我們通常是指以下一個或多個操作步驟:

l  (Splitting)按照一些規則將資料分為不同的組;

l  (Applying)對於每組資料分別執行一個函式;

l  (Combining)將結果組合到一個數據結構中;

1、  分組並對每個分組執行sum函式:

2、  通過多個列進行分組形成一個層次索引,然後執行函式:

八、           Reshaping

l  Stack

可以從這個資料中輕鬆的生成資料透視表:

九、           時間序列

Pandas在對頻率轉換進行重新取樣時擁有簡單、強大且高效的功能(如將按秒取樣的資料轉換為按5分鐘為單位進行取樣的資料)。這種操作在金融領域非常常見。具體參考:TimeSeries section

1、  時區表示:

2、  時區轉換:

3、  時間跨度轉換:

4、  時期和時間戳之間的轉換使得可以使用一些方便的算術函式。

十、           Categorical

1、  將原始的grade轉換為Categorical資料型別:

2、  將Categorical型別資料重新命名為更有意義的名稱:

3、  對類別進行重新排序,增加缺失的類別:

4、  排序是按照Categorical的順序進行的而不是按照字典順序進行:

5、  對Categorical列進行排序時存在空的類別:

十一、          畫圖

對於DataFrame來說,plot是一種將所有列及其標籤進行繪製的簡便方法:

十二、          匯入和儲存資料

1、  寫入csv檔案:

2、  從csv檔案中讀取:

1、  寫入HDF5儲存:

2、  從HDF5儲存中讀取:

1、  寫入excel檔案:

2、  從excel檔案中讀取: