pandas庫之DataFrame基本操作
轉自：http://www.jianshu.com/p/75f915cc5147
這一部分主要學習pandas中Series和DataFrame基本操作。
-
設有
DataFrame結果的資料a如下所示：
-
a b
c
-
one
4
-
two
6
2
0
-
three
6
1
6
一、檢視資料（檢視物件的方法對於Series來說同樣適用）
1.檢視DataFrame前xx行或後xx行
a=DataFrame(data);
a.head(6)表示顯示前6行資料，若head()中不帶引數則會顯示全部資料。
a.tail(6)表示顯示後6行資料，若tail()中不帶引數則也會顯示全部資料。
2.檢視DataFrame的index，columns以及values
a.index ; a.columns ; a.values 即可
3.describe()函式對於資料的快速統計彙總
a.describe()對每一列資料進行統計，包括計數，均值，std，各個分位數等。
4.對資料的轉置
a.T
5.對軸進行排序
a.sort_index(axis=1,ascending=False)；
其中axis=1表示對所有的columns進行排序，下面的數也跟著發生移動。後面的ascending=False表示按降序排列，引數缺失時預設升序。
6.對DataFrame中的值排序
a.sort(columns=’x’)
即對a中的x這一列，從小到大進行排序。注意僅僅是x這一列，而上面的按軸進行排序時會對所有的columns進行操作。
二、選擇物件
1.選擇特定列和行的資料
a[‘x’] 那麼將會返回columns為x的列，注意這種方式一次只能返回一個列。a.x與a[‘x’]意思一樣。
取行資料，通過切片[]來選擇
如：a[0:3] 則會返回前三行的資料。
2.loc是通過標籤來選擇資料
a.loc[‘one’]則會預設表示選取行為’one’的行；
a.loc[:,[‘a’,’b’] ] 表示選取所有的行以及columns為a,b的列；
a.loc[[‘one’,’two’],[‘a’,’b’]] 表示選取’one’和’two’這兩行以及columns為a,b的列；
a.loc[‘one’,’a’]與a.loc[[‘one’],[‘a’]]作用是一樣的，不過前者只顯示對應的值，而後者會顯示對應的行和列標籤。
3.iloc則是直接通過位置來選擇資料
這與通過標籤選擇類似
a.iloc[1:2,1:2] 則會顯示第一行第一列的資料;(切片後面的值取不到)
a.iloc[1:2] 即後面表示列的值沒有時，預設選取行位置為1的資料;
a.iloc[[0,2],[1,2]] 即可以自由選取行位置，和列位置對應的資料。
4.使用條件來選擇
使用單獨的列來選擇資料
a[a.c>0] 表示選擇c列中大於0的資料
使用where來選擇資料
a[a>0] 表直接選擇a中所有大於0的資料
使用isin()選出特定列中包含特定值的行
a1=a.copy()
a1[a1[‘one’].isin([‘2’,’3’])] 表顯示滿足條件：列one中的值包含’2’,’3’的所有行。
三、設定值（賦值）
賦值操作在上述選擇操作的基礎上直接賦值即可。
例a.loc[:,[‘a’,’c’]]=9 即將a和c列的所有行中的值設定為9
a.iloc[:,[1,3]]=9 也表示將a和c列的所有行中的值設定為9
同時也依然可以用條件來直接賦值
a[a>0]=-a 表示將a中所有大於0的數轉化為負值
四、缺失值處理
在pandas中，使用np.nan來代替缺失值，這些值將預設不會包含在計算中。
1.reindex()方法
用來對指定軸上的索引進行改變/增加/刪除操作，這將返回原始資料的一個拷貝。
a.reindex(index=list(a.index)+[‘five’],columns=list(a.columns)+[‘d’])
a.reindex(index=[‘one’,’five’],columns=list(a.columns)+[‘d’])
即用index=[]表示對index進行操作，columns表對列進行操作。
2.對缺失值進行填充
a.fillna(value=x)
表示用值為x的數來對缺失值進行填充
3.去掉包含缺失值的行
a.dropna(how=’any’)
表示去掉所有包含缺失值的行
五、合併
1.contact
contact(a1,axis=0/1，keys=[‘xx’,’xx’,’xx’,…])，其中a1表示要進行進行連線的列表資料,axis=1時表橫著對資料進行連線。axis=0或不指定時，表將資料豎著進行連線。a1中要連線的資料有幾個則對應幾個keys，設定keys是為了在資料連線以後區分每一個原始a1中的資料。
例：a1=[b[‘a’],b[‘c’]]
result=pd.concat(a1,axis=1，keys=[‘1’,’2’])
2.Append 將一行或多行資料連線到一個DataFrame上
a.append(a[2:],ignore_index=True)
表示將a中的第三行以後的資料全部新增到a中，若不指定ignore_index引數，則會把新增的資料的index保留下來，若ignore_index=Ture則會對所有的行重新自動建立索引。
3.merge類似於SQL中的join
設a1,a2為兩個dataframe,二者中存在相同的鍵值，兩個物件連線的方式有下面幾種：
(1)內連線，pd.merge(a1, a2, on=’key’)
(2)左連線，pd.merge(a1, a2, on=’key’, how=’left’)
(3)右連線，pd.merge(a1, a2, on=’key’, how=’right’)
(4)外連線， pd.merge(a1, a2, on=’key’, how=’outer’)
至於四者的具體差別，具體學習參考sql中相應的語法。
六、分組（groupby）
用pd.date_range函式生成連續指定天數的的日期
pd.date_range(‘20000101’,periods=10)
-
def shuju():
-
data={
-
'date'
:pd.date_range(
'20000101',periods=
10),
-
'gender'
:np.random.randint(
0,
2,size=
10),
-
'height'
:np.random.randint(
40,
50,size=
10),
-
'weight'
:np.random.randint(
150,
180,size=
10)
-
}
-
a=DataFrame(data)
-
print(a)
-
date gender height weight
-
0
2000-
01-
01
0
47
165
-
1
2000-
01-
02
0
46
179
-
2
2000-
01-
03
1
48
172
-
3
2000-
01-
04
0
45
173
-
4
2000-
01-
05
1
47
151
-
5
2000-
01-
06
0
45
172
-
6
2000-
01-
07
0
48
167
-
7
2000-
01-08
0
45
157
-
8
2000-
01-09
1
42
157
-
9
2000-
01-
10
1
42
164
-
-
用a.groupby(
'gender').sum()得到的結果為：
#注意在python中groupby(''xx)後要加sum()，不然顯示
-
不了資料物件。
-
gender height weight
-
0
256
989
-
1
170
643
此外用a.groupby(‘gender’).size()可以對各個gender下的數目進行計數。
所以可以看到groupby的作用相當於：
按gender對gender進行分類，對應為數字的列會自動求和，而為字串型別的列則不顯示；當然也可以同時groupby([‘x1’,’x2’,…])多個欄位，其作用與上面類似。
七、Categorical按某一列重新編碼分類
如六中要對a中的gender進行重新編碼分類，將對應的0，1轉化為male，female，過程如下：
-
a[
'gender1']=a[
'gender'].astype(
'category')
-
a[
'gender1'].cat.categories=[
'male',
'female']
#即將
0
，
1
先轉化為category型別再進行編碼。
-
-
print(a)得到的結果為：
-
date gender height weight gender1
-
0
2000
-01
-01
1
40
163 female
-
1
2000
-01
-02
0
44
177 male
-
2
2000
-01
-03
1
40
167 female
-
3
2000
-01
-04
0
41
161 male
-
4
2000
-01
-05
0
48
177 male
-
5
2000
-01
-06
1
46
179 female
-
6
2000
-01
-07
1
42
154 female
-
7
2000
-01
-08
1
43
170 female
-
8
2000
-01
-09
0
46
158 male
-
9
2000
-01
-10
1
44
168 female
所以可以看出重新編碼後的編碼會自動增加到dataframe最後作為一列。
八、相關操作
描述性統計：
1.a.mean() 預設對每一列的資料求平均值；若加上引數a.mean(1)則對每一行求平均值；
2.統計某一列x中各個值出現的次數：a[‘x’].value_counts()；
3.對資料應用函式
a.apply(lambda x:x.max()-x.min())
表示返回所有列中最大值-最小值的差。
4.字串相關操作
a[‘gender1’].str.lower() 將gender1中所有的英文大寫轉化為小寫，注意dataframe沒有str屬性，只有series有，所以要選取a中的gender1欄位。
九、時間序列
在六中用pd.date_range(‘xxxx’,periods=xx,freq=’D/M/Y….’)函式生成連續指定天數的的日期列表。
例如pd.date_range(‘20000101’,periods=10),其中periods表示持續頻數；
pd.date_range(‘20000201’,’20000210’,freq=’D’)也可以不指定頻數，只指定起始日期。
此外如果不指定freq，則預設從起始日期開始，頻率為day。其他頻率表示如下：
1.png
十、畫圖(plot)
-
在pycharm中首先要：
import matplotlib
.pyplot
as plt
-
a=Series(np
.random
.randn(
1000),index=pd.date_range(
'20100101',periods=
1000))
-
b=
a.cumsum()
-
b.plot()
-
plt.show()
#最後一定要加這個plt.show()，不然不會顯示出圖來。
2.PNG
也可以使用下面的程式碼來生成多條時間序列圖：
-
a=DataFrame(np
.random
.randn(
1000，
4),
index=pd.date_range(
'20100101',periods=
1000),
columns=list(
'ABCD'))
-
b=
a.cumsum()
-
b.plot()
-
plt.show()
3.png
十一、匯入和匯出檔案
寫入和讀取excel檔案
雖然寫入excel表時有兩種寫入xls和csv，但建議少使用csv，不然在表中調整資料格式時，儲存時一直詢問你是否儲存新格式，很麻煩。而在讀取資料時，如果指定了哪一張sheet，則在pycharm又會出現格式不對齊。
還有將資料寫入表格中時，excel會自動給你在表格最前面增加一個欄位，對資料行進行編號。
-
a.to_excel(
r'C:\\Users\\guohuaiqi\\Desktop\\2.xls',sheet_name=
'Sheet1')
-
-
a=pd.read_excel(
r'C:\\Users\\guohuaiqi\\Desktop\\2.xls',
'Sheet1',na_values=[
'NA'])
-
-
注意sheet_name後面的Sheet1中的首字母大寫；讀取資料時，可以指定讀取哪一張表中的資料，而
-
且對缺失值補上NA。
-
-
最後再附上寫入和讀取csv格式的程式碼：
-
a.to_csv(
r'C:\\Users\\guohuaiqi\\Desktop\\1.csv'，sheet_name=
'Sheet1')
-
a=pd.read_csv(
r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',na_values=[
'NA'])
</div>
</div>
轉自：http://www.jianshu.com/p/75f915cc5147
這一部分主要學習pandas中Series和DataFrame基本操作。
-
設有
DataFrame結果的資料a如下所示：
-
a b
c
-
one
4
1
1
-
two
6
2
0
-
three
6
1
6
一、檢視資料（檢視物件的方法對於Series來說同樣適用）
1.檢視DataFrame前xx行或後xx行
a=DataFrame(data);
a.head(6)表示顯示前6行資料，若head()中不帶引數則會顯示全部資料。
a.tail(6)表示顯示後6行資料，若tail()中不帶引數則也會顯示全部資料。
2.檢視DataFrame的index，columns以及values
a.index ; a.columns ; a.values 即可
3.describe()函式對於資料的快速統計彙總
a.describe()對每一列資料進行統計，包括計數，均值，std，各個分位數等。
4.對資料的轉置
a.T
5.對軸進行排序
a.sort_index(axis=1,ascending=False)；
其中axis=1表示對所有的columns進行排序，下面的數也跟著發生移動。後面的ascending=False表示按降序排列，引數缺失時預設升序。
6.對DataFrame中的值排序
a.sort(columns=’x’)
即對a中的x這一列，從小到大進行排序。注意僅僅是x這一列，而上面的按軸進行排序時會對所有的columns進行操作。
二、選擇物件
1.選擇特定列和行的資料
a[‘x’] 那麼將會返回columns為x的列，注意這種方式一次只能返回一個列。a.x與a[‘x’]意思一樣。
取行資料，通過切片[]來選擇
如：a[0:3] 則會返回前三行的資料。
2.loc是通過標籤來選擇資料
a.loc[‘one’]則會預設表示選取行為’one’的行；
a.loc[:,[‘a’,’b’] ] 表示選取所有的行以及columns為a,b的列；
a.loc[[‘one’,’two’],[‘a’,’b’]] 表示選取’one’和’two’這兩行以及columns為a,b的列；
a.loc[‘one’,’a’]與a.loc[[‘one’],[‘a’]]作用是一樣的，不過前者只顯示對應的值，而後者會顯示對應的行和列標籤。
3.iloc則是直接通過位置來選擇資料
這與通過標籤選擇類似
a.iloc[1:2,1:2] 則會顯示第一行第一列的資料;(切片後面的值取不到)
a.iloc[1:2] 即後面表示列的值沒有時，預設選取行位置為1的資料;
a.iloc[[0,2],[1,2]] 即可以自由選取行位置，和列位置對應的資料。
4.使用條件來選擇
使用單獨的列來選擇資料
a[a.c>0] 表示選擇c列中大於0的資料
使用where來選擇資料
a[a>0] 表直接選擇a中所有大於0的資料
使用isin()選出特定列中包含特定值的行
a1=a.copy()
a1[a1[‘one’].isin([‘2’,’3’])] 表顯示滿足條件：列one中的值包含’2’,’3’的所有行。
三、設定值（賦值）
賦值操作在上述選擇操作的基礎上直接賦值即可。
例a.loc[:,[‘a’,’c’]]=9 即將a和c列的所有行中的值設定為9
a.iloc[:,[1,3]]=9 也表示將a和c列的所有行中的值設定為9
同時也依然可以用條件來直接賦值
a[a>0]=-a 表示將a中所有大於0的數轉化為負值
四、缺失值處理
在pandas中，使用np.nan來代替缺失值，這些值將預設不會包含在計算中。
1.reindex()方法
用來對指定軸上的索引進行改變/增加/刪除操作，這將返回原始資料的一個拷貝。
a.reindex(index=list(a.index)+[‘five’],columns=list(a.columns)+[‘d’])
a.reindex(index=[‘one’,’five’],columns=list(a.columns)+[‘d’])
即用index=[]表示對index進行操作，columns表對列進行操作。
2.對缺失值進行填充
a.fillna(value=x)
表示用值為x的數來對缺失值進行填充
3.去掉包含缺失值的行
a.dropna(how=’any’)
表示去掉所有包含缺失值的行
五、合併
1.contact
contact(a1,axis=0/1，keys=[‘xx’,’xx’,’xx’,…])，其中a1表示要進行進行連線的列表資料,axis=1時表橫著對資料進行連線。axis=0或不指定時，表將資料豎著進行連線。a1中要連線的資料有幾個則對應幾個keys，設定keys是為了在資料連線以後區分每一個原始a1中的資料。
例：a1=[b[‘a’],b[‘c’]]
result=pd.concat(a1,axis=1，keys=[‘1’,’2’])
2.Append 將一行或多行資料連線到一個DataFrame上
a.append(a[2:],ignore_index=True)
表示將a中的第三行以後的資料全部新增到a中，若不指定ignore_index引數，則會把新增的資料的index保留下來，若ignore_index=Ture則會對所有的行重新自動建立索引。
3.merge類似於SQL中的join
設a1,a2為兩個dataframe,二者中存在相同的鍵值，兩個物件連線的方式有下面幾種：
(1)內連線，pd.merge(a1, a2, on=’key’)
(2)左連線，pd.merge(a1, a2, on=’key’, how=’left’)
(3)右連線，pd.merge(a1, a2, on=’key’, how=’right’)
(4)外連線， pd.merge(a1, a2, on=’key’, how=’outer’)
至於四者的具體差別，具體學習參考sql中相應的語法。
六、分組（groupby）
用pd.date_range函式生成連續指定天數的的日期
pd.date_range(‘20000101’,periods=10)
-
def shuju():
-
data={
-
'date'
:pd.date_range(
'20000101',periods=
10),
-
'gender'
:np.random.randint(
0,
2,size=
10),
-
'height'
:np.random.randint(
40,
50,size=
10),
-
'weight'
:np.random.randint(
150,
180,size=
10)
-
}
-
a=DataFrame(data)
-
print(a)
-
date gender height weight
-
0
2000-
01-
01
0
47
165
-
1
2000-
01-
02
0
46
179
-
2
2000-
01-
03
1
48
172
-
3
2000-
01-
04
0
45
173
-
4
2000-
01-
05
1
47
151
-
5
2000-
01-
06
0
45
172
-
6
2000-
01-
07
0
48
167
-
7
2000-
01-08
0
45
157
-
8
2000-
01-09
1
42
157
-
9
2000-
01-
10
1
42
164
-
-
用a.groupby(
'gender').sum()得到的結果為：
#注意在python中groupby(''xx)後要加sum()，不然顯示
-
不了資料物件。
-
gender height weight
-
0
256
989
-
1
170
643
此外用a.groupby(‘gender’).size()可以對各個gender下的數目進行計數。
所以可以看到groupby的作用相當於：
按gender對gender進行分類，對應為數字的列會自動求和，而為字串型別的列則不顯示；當然也可以同時groupby([‘x1’,’x2’,…])多個欄位，其作用與上面類似。
七、Categorical按某一列重新編碼分類
如六中要對a中的gender進行重新編碼分類，將對應的0，1轉化為male，female，過程如下：
-
a[
'gender1']=a[
'gender'].astype(
'category')
-
a[
'gender1'].cat.categories=[
'male',
'female']
#即將
0
，
1
先轉化為category型別再進行編碼。
-
-
print(a)得到的結果為：
-
date gender height weight gender1
-
0
2000
-01
-01
1
40
163 female
-
1
2000
-01
-02
0
44
177 male
-
2
2000
-01
-03
1
40
167 female
-
3
2000
-01
-04
0
41
161 male
-
4
2000
-01
-05
0
48
177 male
-
5