在本地搭建好Spark 1.6.0後，除了使用spark-submit提交Python程式外，我們可以使用PyCharm這個IDE在本地進行開發除錯,提升我們的開發效率。配置過程也十分簡單，在stackoverflow上搜索到的。同時，IntelliJ IDEA加入Python外掛後也可以使用Python開發Spark程式，配置步驟一致。

0.安裝PyCharm和py4j

我的系統環境（Ubuntu 14.04.4 LTS）

安裝步驟： - Unpack the pycharm-5.0.4.tar.gz using the following command: tar xfz pycharm-5.0.4.tar.gz - Run pycharm.sh from the bin subdirectory

安裝py4j：

$ sudo pip install py4j
1.配置Pycharm

開啟PyCharm，建立一個Project。 然後選擇“Run” ->“Edit Configurations” ->“Environment variables” 增加SPARK_HOME目錄與PYTHONPATH目錄。 - SPARK_HOME:Spark安裝目錄 - PYTHONPATH:Spark安裝目錄下的Python目錄
2.測試Pycharm

執行一個小的Spark程式看看：

“”“SimpleApp”“”

from pyspark import SparkContext

logFile = “/home/tom/spark-1.6.0/README.md”
sc = SparkContext(“local”,”Simple App”)
logData = sc.textFile(logFile).cache()

numAs = logData.filter(lambda s: ‘a’ in s).count()
numBs = logData.filter(lambda s: ‘b’ in s).count()

print(“Lines with a: %i, lines with b: %i”%(numAs, numBs))
執行結果：

Lines with a: 58, lines with b: 26