python數據表的合並(python pandas join() 、merge()和concat()的用法)
阿新 • • 發佈：2018-04-22
div 等價 nta cti nio eve 數據合並 inner lai
merage#
pandas提供了一個類似於關系數據庫的連接(join)操作的方法<Strong>merage</Strong>,可以根據一個或多個鍵將不同DataFrame中的行連接起來，語法如下：
| 1 2 3 |
merge(left, right, how=‘inner‘, on=None, left_on=None, right_on=None,
left_index=False, right_index=False, sort=True,
suffixes=(‘_x‘, ‘_y‘), copy=True, indicator=False)
|
作為一個功能完善、強大的語言，python的pandas庫中的merge()支持各種內外連接。
- left與right：兩個不同的DataFrame
- how：指的是合並(連接)的方式有inner(內連接),left(左外連接),right(右外連接),outer(全外連接);默認為inner
- on : 指的是用於連接的列索引名稱。必須存在右右兩個DataFrame對象中，如果沒有指定且其他參數也未指定則以兩個DataFrame的列名交集做為連接鍵
- left_on：左則DataFrame中用作連接鍵的列名;這個參數中左右列名不相同，但代表的含義相同時非常有用。
- right_on：右則DataFrame中用作 連接鍵的列名
- left_index：使用左則DataFrame中的行索引做為連接鍵
- right_index：使用右則DataFrame中的行索引做為連接鍵
- sort：默認為True，將合並的數據進行排序。在大多數情況下設置為False可以提高性能
- suffixes：字符串值組成的元組，用於指定當左右DataFrame存在相同列名時在列名後面附加的後綴名稱，默認為(‘_x‘,‘_y‘)
- copy：默認為True,總是將數據復制到數據結構中；大多數情況下設置為False可以提高性能
- indicator：在 0.17.0中還增加了一個顯示合並數據中來源情況；如只來自己於左邊(left_only)、兩者(both)
sql中的
| 1 2 3 4 5 6 7 |
SELECT *
FROM df1
INNER JOIN df2
ON df1.key = df2.key;
或
SELECT *
FROM df1,df2 where df1.key=df2.key
|
pandas中用：
| 1 |
pd.merge(df1, df2, on=‘key‘)
|
然後就是各種外連接了：
| 1 |
pd.merge(df1, df2, on=‘key‘, how=‘left‘)
|
how變成left/right。全鏈接outer。
示例##
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 |
#coding=utf-8
from pandas import Series,DataFrame,merge
import numpy as np
data=DataFrame([{"id":0,"name":‘lxh‘,"age":20,"cp":‘lm‘},{"id":1,"name":‘xiao‘,"age":40,"cp":‘ly‘},{"id":2,"name":‘hua‘,"age":4,"cp":‘yry‘},{"id":3,"name":‘be‘,"age":70,"cp":‘old‘}])
data1=DataFrame([{"id":100,"name":‘lxh‘,‘cs‘:10},{"id":101,"name":‘xiao‘,‘cs‘:40},{"id":102,"name":‘hua2‘,‘cs‘:50}])
data2=DataFrame([{"id":0,"name":‘lxh‘,‘cs‘:10},{"id":101,"name":‘xiao‘,‘cs‘:40},{"id":102,"name":‘hua2‘,‘cs‘:50}])
print "單個列名做為內鏈接的連接鍵\r\n",merge(data,data1,on="name",suffixes=(‘_a‘,‘_b‘))
print "多列名做為內鏈接的連接鍵\r\n",merge(data,data2,on=("name","id"))
print ‘不指定on則以兩個DataFrame的列名交集做為連接鍵\r\n‘,merge(data,data2) #這裏使用了id與name
#使用右邊的DataFrame的行索引做為連接鍵
##設置行索引名稱
indexed_data1=data1.set_index("name")
print "使用右邊的DataFrame的行索引做為連接鍵\r\n",merge(data,indexed_data1,left_on=‘name‘,right_index=True)
print ‘左外連接\r\n‘,merge(data,data1,on="name",how="left",suffixes=(‘_a‘,‘_b‘))
print ‘左外連接1\r\n‘,merge(data1,data,on="name",how="left")
print ‘右外連接\r\n‘,merge(data,data1,on="name",how="right")
data3=DataFrame([{"mid":0,"mname":‘lxh‘,‘cs‘:10},{"mid":101,"mname":‘xiao‘,‘cs‘:40},{"mid":102,"mname":‘hua2‘,‘cs‘:50}])
#當左右兩個DataFrame的列名不同，當又想做為連接鍵時可以使用left_on與right_on來指定連接鍵
print "使用left_on與right_on來指定列名字不同的連接鍵\r\n",merge(data,data3,left_on=["name","id"],right_on=["mname","mid"])
|
輸出為：
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 |
單個列名做為內鏈接的連接鍵
age cp id_a name cs id_b
0 20 lm 0 lxh 10 100
1 40 ly 1 xiao 40 101
多列名做為內鏈接的連接鍵
age cp id name cs
0 20 lm 0 lxh 10
不指定on則以兩個DataFrame的列名交集做為連接鍵
age cp id name cs
0 20 lm 0 lxh 10
使用右邊的DataFrame的行索引做為連接鍵
age cp id_x name cs id_y
0 20 lm 0 lxh 10 100
1 40 ly 1 xiao 40 101
左外連接
age cp id_a name cs id_b
0 20 lm 0 lxh 10 100
1 40 ly 1 xiao 40 101
2 4 yry 2 hua NaN NaN
3 70 old 3 be NaN NaN
左外連接1
cs id_x name age cp id_y
0 10 100 lxh 20 lm 0
1 40 101 xiao 40 ly 1
2 50 102 hua2 NaN NaN NaN
右外連接
age cp id_x name cs id_y
0 20 lm 0 lxh 10 100
1 40 ly 1 xiao 40 101
2 NaN NaN NaN hua2 50 102
使用left_on與right_on來指定列名字不同的連接鍵
age cp id name cs mid mname
0 20 lm 0 lxh 10 0 lxh
|
join方法提供了一個簡便的方法用於將兩個DataFrame中的不同的列索引合並成為一個DataFrame。
其中參數的意義與merge方法基本相同,只是join方法默認為左外連接how=left。
示例：
| 1 2 3 4 5 6 7 8 9 10 |
#coding=utf-8
from pandas import Series,DataFrame,merge
data=DataFrame([{"id":0,"name":‘lxh‘,"age":20,"cp":‘lm‘},{"id":1,"name":‘xiao‘,"age":40,"cp":‘ly‘},{"id":2,"name":‘hua‘,"age":4,"cp":‘yry‘},{"id":3,"name":‘be‘,"age":70,"cp":‘old‘}],index=[‘a‘,‘b‘,‘c‘,‘d‘])
data1=DataFrame([{"sex":0},{"sex":1},{"sex":2}],index=[‘a‘,‘b‘,‘e‘])
print ‘使用默認的左連接\r\n‘,data.join(data1) #這裏可以看出自動屏蔽了data中沒有的index=e 那一行的數據
print ‘使用右連接\r\n‘,data.join(data1,how="right") #這裏出自動屏蔽了data1中沒有index=c,d的那行數據；等價於data1.join(data)
print ‘使用內連接\r\n‘,data.join(data1,how=‘inner‘)
print ‘使用全外連接\r\n‘,data.join(data1,how=‘outer‘)
|
結果為：
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 |
使用默認的左連接
age cp id name sex
a 20 lm 0 lxh 0
b 40 ly 1 xiao 1
c 4 yry 2 hua NaN
d 70 old 3 be NaN
使用右連接
age cp id name sex
a 20 lm 0 lxh 0
b 40 ly 1 xiao 1
e NaN NaN NaN NaN 2
使用內連接
age cp id name sex
a 20 lm 0 lxh 0
b 40 ly 1 xiao 1
使用全外連接
age cp id name sex
a 20 lm 0 lxh 0
b 40 ly 1 xiao 1
c 4 yry 2 hua NaN
d 70 old 3 be NaN
e NaN NaN NaN NaN 2
|
還有一種連接方式：concat
concat方法相當於數據庫中的全連接(UNION ALL),可以指定按某個軸進行連接,也可以指定連接的方式join(outer,inner 只有這兩種)。
與數據庫不同的是concat不會去重，要達到去重的效果可以使用drop_duplicates方法
| 1 2 |
concat(objs, axis=0, join=‘outer‘, join_axes=None, ignore_index=False,
keys=None, levels=None, names=None, verify_integrity=False, copy=True):
|
示例：
| 1 2 3 4 5 6 7 8 |
#coding=utf-8
from pandas import Series,DataFrame,concat
df1 = DataFrame({‘city‘: [‘Chicago‘, ‘San Francisco‘, ‘New York City‘], ‘rank‘: range(1, 4)})
df2 = DataFrame({‘city‘: [‘Chicago‘, ‘Boston‘, ‘Los Angeles‘], ‘rank‘: [1, 4, 5]})
print ‘按軸進行內連接\r\n‘,concat([df1,df2],join="inner",axis=1)
print ‘進行外連接並指定keys(行索引)\r\n‘,concat([df1,df2],keys=[‘a‘,‘b‘]) #這裏有重復的數據
print ‘去重後\r\n‘,concat([df1,df2],ignore_index=True).drop_duplicates()
|
輸出結果為：
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 |
按軸進行內連接
city rank city rank
0 Chicago 1 Chicago 1
1 San Francisco 2 Boston 4
2 New York City 3 Los Angeles 5
進行外連接並指定keys(行索引)
city rank
a 0 Chicago 1
1 San Francisco 2
2 New York City 3
b 0 Chicago 1
1 Boston 4
2 Los Angeles 5
去重後
city rank
0 Chicago 1
1 San Francisco 2
2 New York City 3
4 Boston 4
5 Los Angeles 5
|
利用python做數據分析（四）-數據合並: https://blog.csdn.net/youngbit007/article/details/53053784
python數據表的合並(python pandas join() 、merge()和concat()的用法)