python和C語言互相呼叫的幾種方式
1 2 3 4 5 6 7 8 9 |
|
Python這些年風頭一直很盛,佔據了很多領域的位置,Web、大資料、人工智慧、運維均有它的身影,甚至圖形介面做的也很順,乃至full-stack這個詞語剛出來的時候,似乎就是為了描述它。
Python雖有GIL的問題導致多執行緒無法充分利用多核,但後來的multiprocess可以從多程序的角度來利用多核,甚至affinity可以繫結具體的CPU核,這個問題也算得到解決。雖基本為全棧語言,但有的時候為了效率,可能還是會去考慮和C語言混編。混編是計算機裡一個不可迴避的話題,涉及的東西很多,技術、架構、團隊情況、管理、客戶等各個環節可能對其都有影響,混編這個問題我想到時候再開一貼專門討論。本文只講python和C混編的方式,大致有如下幾種方式(本文背景是linux,其他平臺可以類比):
共享庫
使用C語言編譯產生共享庫,然後python使用ctype庫裡的cdll來開啟共享庫。
舉例如下,C語言程式碼為
/* func.c */ int func(int a) { return a*a; }
python程式碼為
#!/usr/bin/env python #test_so.py from ctypes import cdll import os p = os.getcwd() + '/libfunc.so' f = cdll.LoadLibrary(p) print f.func(99)
測試如下
1 2 3 |
|
subprocess
C語言設計一個完整的可執行檔案,然後python通過subprocess來執行該可執行檔案,本質上是fork+execve。
舉例如下,C語言程式碼為
/* test.c */ #include <stdio.h> int func(int a) { return a*a; } int main(int argc, char **argv) { int x; sscanf(argv[1], "%d", &x); printf("%d\n", func(x)); return 0; }
Python程式碼為
#!/usr/bin/env python # test_subprocess.py import os import subprocess subprocess.call([os.getcwd()+'/a.out', '99'])
測試如下
1 2 3 |
|
C語言中執行python程式
C語言使用popen/system或者直接以系統呼叫級fork+exec來執行python程式也是一種混編的手段了。
舉例如下,Python程式碼如下
#!/usr/bin/env python # test.py import sys x = int(sys.argv[1]) print x*x
C語言程式碼如下
/* test.c */ #include <stdio.h> #include <stdlib.h> int main() { FILE *f; char s[1024]; int ret; f = popen("./test.py 99", "r"); while((ret=fread(s,1,1024,f))>0) { fwrite(s,1,ret,stdout); } fclose(f); return 0; }
測試如下
1 2 3 |
|
python對C語言擴充套件的支援
很多程式語言都為C語言擴充套件添加了支援,這有兩種原因:(1)語言設計之初,可以充分的利用C語言已有的庫來做很多擴充套件;(2)C語言的執行效率高。
python也不例外,從誕生那天起,很多庫都是C語言寫的。python的C語言擴充套件中涉及到python的資料結構與C語言的對應,擴充套件方法其實是用C語言編寫一個共享庫,只是這個共享庫中的介面是一個規範的,可以被python識別的。
為了說明如何擴充套件,我這裡先假設一個在python下的函式功能,程式碼如下
def func(*a): res=1 for i in range(len(a)): res *= sum(a[i]) return res
如上,希望的函式功能是,引數是任意多個數字組成的列表(姑且排除其他資料結構),返回每個列表的元素之和的乘積。
姑且先把python程式碼寫了,如下所示
#!/usr/bin/env python # test.py import colin def func(*a): res=1 for i in range(len(a)): res *= sum(a[i]) return res a = [1,2,3] b = [4,5,6] c = [7,8] d = [9] e = [10,11,12,13,14] f = colin.func2(99) g = colin.func3(a,b,c,d,e) h = func3(a,b,c,d,e) print "f = ",f print "g = ",g print "h = ",h
帶上之前一直測試的平方func,這個實現相對簡單,希望python寫出來的func可以和C語言擴展出來的結果一致。
先用C語言寫上這些函式的實現,其中func3用上了一個表示任意多個任意長的陣列的資料結構y_t,而x_t用來表示單個數組。
/* colin.h */ #ifndef Colin_h #define Colin_h typedef struct { int *a; int len; } x_t; typedef struct { x_t *ax; int len; } y_t; int func2(int a); int func3(y_t *p); void free_y_t(y_t *p); #endif
/* colin.c */ #include "colin.h" #include <stdlib.h> int func2(int a) { return a*a; } int func3(y_t *p) { int result; int sum; int i, j; result = 1; for(i=0;i<p->len;i++) { sum = 0; for(j=0;j<p->ax[i].len;j++) sum += p->ax[i].a[j]; result *= sum; } return result; } void free_y_t(y_t *p) { int i; for(i=0;i<p->len;i++) { free(p->ax[i].a); } free(p->ax); }
上面定義了三個函式,func2代表平方,func3代表之前所說的功能,又因y_t這個結構可能都是動態分配出來的,所以給個歸還記憶體的方法。
剛才說過python擴充套件的話,需要把這個共享庫的介面“標準化”一下。於是我們就包裝一下,並給個python載入的入口。
/* wrap.c */ #include <Python.h> #include <stdlib.h> #include "colin.h" PyObject* wrap_func2(PyObject* self, PyObject* args) { int n, result; /* 從引數列表中匯出一個整形,用"i" */ if (!PyArg_ParseTuple(args, "i", &n)) return NULL; /* 用C語言的庫實現來計算 */ result = func2(n); /* 計算結果必須要導成python識別的型別 */ return Py_BuildValue("i", result); } PyObject* wrap_func3(PyObject* self, PyObject* args) { int n, result; int i, j; int size, size2; PyObject *p,*q; y_t *y; y = malloc(sizeof(y_t)); /* 先數數有多少個引數,也就是列表的個數 */ size = PyTuple_Size(args); /* 把陣列的個數先分配了 */ y->len = size; y->ax = malloc(sizeof(x_t)*size); /* 遍歷python裡各個列表(引數) */ for(i=0;i<size;i++) { /* 先獲得第i個引數,是一個列表 */ p = PyTuple_GetItem(args, i); /* 獲得列表的長度 */ size2 = PyList_Size(p); /* 為陣列分配好空間 */ y->ax[i].len = size2; y->ax[i].a = malloc(sizeof(int)*size2); /* 遍歷列表,依次把列表裡的數轉到數組裡 */ for(j=0;j<size2;j++) { q = PyList_GetItem(p, j); PyArg_Parse(q,"i",&y->ax[i].a[j]); } } /* 用C語言的庫實現來計算 */ result = func3(y); free_y_t(y); free(y); /* 結果轉成python識別格式 */ return Py_BuildValue("i", result); } /* 這是介面列表,載入時是隻載入此列表的地址,所以這個資料結構不能放棧(區域性變數)內,會被清掉 */ static PyMethodDef colinMethods[] = { {"func2", wrap_func2, METH_VARARGS, "Just a test"}, {"func3", wrap_func3, METH_VARARGS, "Just a test"}, {NULL, NULL, METH_NOARGS, NULL} }; /* python載入的時候的介面 */ /* 注意,既然庫名叫colin,此函式必須交initcolin */ void initcolin() { PyObject *m; m = Py_InitModule("colin", colinMethods); }
過程中,我猜測PyArg_VaParse應該功能更為強大,可是反覆測沒有成功,也沒細看文件。
測試一下
1 2 3 4 5 |
|
可以看到,C語言寫的函式和python寫的函式結果一致。
出處:http://www.cnblogs.com/Col