1. 程式人生 > >Ubuntu 16.04 Spark單機環境搭建

Ubuntu 16.04 Spark單機環境搭建

說道大資料和機器學習,就少不了Spark.本文主要介紹在Linux下搭建單機環境的Spark的步驟。

安裝Java SE

注意選擇Linux版本,根據機器型別選擇32位或者64位。

2、下載jdk-8u131-linux-x64.tar.gz後,解壓到自己指定目錄。

$ tar -zxvf jdk-8u131-linux-x64.tar.gz -C /usr/lib/java

3、配置JAVA環境變數。

開啟.bashrc檔案。

$ nano ~/.bashrc

在.bashrc檔案末尾增加如下內容:

export JAVA_HOME=/usr/lib/java/jdk1.8.0_131 
export
JRE_HOME=${JAVA_HOME}/jre export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib export PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin:$PATH

儲存後退出,執行如下命令,使修改環境變數即可生效:

$ source ~/.bashrc

4、檢測java是否成功安裝。

$ java -version
java version "1.8.0_131"

如果顯示了java安裝的版本,則表示已正確安裝,可以進行下一步了。

安裝Scala

2、下載scala-2.12.2.tgz後,解壓到指定的目錄:

$ tar -zxvf scala-2.12.2.tgz -C /opt/scala/

3、配置scala環境變數。

開啟.bashrc檔案。

$ nano ~/.bashrc

在.bashrc檔案末尾增加如下內容:

export SCALA_HOME=/opt/scala/scala-2.12.2 
export PATH=${SCALA_HOME}/bin:$PATH 

儲存後退出,執行如下命令,使修改環境變數即可生效:

$ source ~/.bashrc

4、檢測scala是否正確安裝。

$ scala -version
Scala code runner version
2.12.2 -- Copyright 2002-2017, LAMP/EPFL and Lightbend, Inc

若顯示如上資訊,則表示scala已安裝正確。

安裝Spark

2、下載spark-2.1.1-bin-hadoop2.7.tgz後,解壓到指定的目錄:

$ tar -zxvf spark-2.1.1-bin-hadoop2.7.tgz -C /opt/spark/

3、配置scala環境變數。

開啟.bashrc檔案。

$ nano ~/.bashrc

在.bashrc檔案末尾增加如下內容:

export SPARK_HOME=/opt/spark/spark-2.1.1-bin-hadoop2.7
export PATH=${SPARK_HOME}/bin:$PATH 

儲存後退出,執行如下命令,使修改環境變數即可生效:

$ source ~/.bashrc

4、檢測spark是否正確安裝。

$ spark-shell

如果出現如下介面,則表示spark已正確安裝:
這裡寫圖片描述

安裝sbt

2、下載sbt-0.13.15.tgz後,解壓到指定的目錄:

$ tar -zxvf sbt-0.13.15.tgz -C /opt/scala/sbt/

3、配置sbt環境變數。

開啟.bashrc檔案。

$ nano ~/.bashrc

在.bashrc檔案末尾增加如下內容:

export SBT_HOME=/opt/scala/sbt
export PATH=${SBT_HOME}/bin:$PATH 

儲存後退出,執行如下命令,使修改環境變數即可生效:

$ source ~/.bashrc

4、建立啟動sbt的指令碼。

$ mkdir /opt/scala/sbt/ 
$ cd /opt/scala/sbt/ 
$ touch sbt  

指令碼內容如下,注意sbt-launch.jar的路徑

SBT_OPTS="-Xms512M -Xmx1536M -Xss1M -XX:+CMSClassUnloadingEnabled -XX:MaxPermSize=256M" 
java $SBT_OPTS -jar /opt/scala/sbt/bin/sbt-launch.jar "[email protected]" 

修改sbt檔案的許可權

$ chmod u+x sbt 

5、檢測sbt是否正確安裝。

$ sbt sbt-version
[info] 0.13.15

第一次執行的時候會下載很多東西,不用管它,後來就好了。
如果出現sbt的版本資訊就表示安裝成功。

至此,Linux下Spark單機環境已經成功搭建完畢!

相關推薦

Ubuntu 16.04 Spark單機環境搭建

說道大資料和機器學習,就少不了Spark.本文主要介紹在Linux下搭建單機環境的Spark的步驟。 安裝Java SE 注意選擇Linux版本,根據機器型別選擇32位或者64位。 2、下載jdk-8u131-linux-x64.tar.gz後,解

ubuntu 16.04 java伺服器環境搭建

程序佔用 sudo rm /var/cache/apt/archives/lock sudo rm /var/lib/dpkg/lock Java安裝 第一種方式 sudo apt-get install openjdk-8-jdk 第二種方式 通過官網下載t

ubuntu 16.04 golang程式設計環境搭建

這次需要在ubuntu環境中安裝golang環境,整體比較簡單。 直接使用apt-get即可以完成安裝。 sudo apt-get install golang 然後在命令列中執行如下語句驗證安裝。 go version Go和其他語言不同的特殊之處在於需要儲存在

Ubuntu 16.04.1 安裝後搭建ARM交叉編譯環境編譯pjsip

1.解除安裝沒有用的軟體 sudo apt-get purge libreoffice? sudo apt-get remove vim-? sudo apt-get update sudo apt-get install vim-common

ubuntu 16.04 nfs服務的搭建

all more 系統 配置文件 comm 其他 pre ubuntu 實現 原文 nfs服務是實現Linux和Linux之間的文件共享,nfs服務的搭建比較簡單。 現在介紹如何在ubuntu16.04系統中搭建nfs服務,ubuntu的搭建比紅帽的還要簡單。 1、安裝

ubuntu 14.04 java開發環境搭建 jdk 以及 inteliJ IDEA安裝

1.安裝包下載 jdk1.7.0_71 下載地址:http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html iidea-IC-139.225.3 下載地址:h

Ubuntu 16.04.3 LTS上搭建QUIC互動demo

目的本文依據參考文獻中的資料,來利用chromium原始碼編譯出quic_server和quic_client, 並依靠它們來發送QUIC協議請求,瞭解QUIC互動的細節。前提必須能夠流暢地翻牆下載chromium等專案程式碼下面是實操記錄專案目錄存放在cd ~/progra

Ubuntu 16.04 配置網路環境

1、cd /etc/network/   2、sudo gedit interfaces 3、增加:auto eth0iface eth0 inet staticaddress  你的IPnetmask 255.255.240.0gateway  閘道器  這個一定要寫注:

Ubuntu 16.04 安裝php環境

1.安裝之前先更新系統 1 sudo apt update 2.安裝Apache2 1 sudo apt install apache2 3.安裝PHP 1 sudo apt install php 2 sudo apt-get install libapach

Ubuntu 16.04 Caffe SSD 環境配置以及訓練自己的資料集

這篇文章我一開始寫在簡書,歡迎關注我的簡書賬號,會寫一些論文翻譯以及模型實現過程。「我的簡書文章地址」 這篇文章都儘量寫的詳盡。如果你有任何問題,歡迎在這裡提問,或者到我點簡書提問 總的來說,Caffe 是一個比較難上手的框架。這次嘗試訓練 Caffe 框架

Ubuntu 14.04 Eclipse JNI環境搭建(一)之生成JNI標頭檔案

軟體環境 ubuntu 14.04eclipse for JavaCDT建立Java工程              建立一個空Java工程,並建立HelloJni.java類。編寫好HelloJni.java類後,需要通過javah命令生成標頭檔案(HelloJni.h)

Ubuntu 16.04Spark安裝與開發環境搭建

https://blog.csdn.net/lengconglin/article/details/77847623     一、Spark執行環境     Spark是Scala寫的,執行在JVM上,所以執行環境Java7+,如果使用Python

Ubuntu 16.04搭建lamp環境

tex 數據 ttext 搭建lamp 6.0 執行 重啟命令 顯示 訪問 先裝Apache2 1:apt-get install apache2 然後安裝php7.0 2:apt-get install php7.0 安裝PHP7.0之後先別安裝數據庫,先cd /etc/

【Android】Ubuntu 16.04搭建Android開發編譯環境

jdk8 per 參考 prot google官網 markdown ins 由於 log 一. 通用Android環境和工具配置 1. 系統更新升級 sudo apt-get update sudo apt-get upgrade 2. 配置ntlmaps代理上網環境

Ubuntu 16.04 64位 搭建 node.js NodeJS 環境

命令 放心 模塊 code tails 4.4 包名 oca ase 我的系統環境: Ubuntu 16.04 64位 本文內容親測可用, 請放心食用 使用淘寶鏡像 淘寶鏡像官網是https://npm.taobao.org/ 使用淘寶鏡像前請自行安裝好 npm 和 nod

Ubuntu 16.04搭建LAMP開發環境

ping 現狀 baidu 方法 執行 cati nss 使用 選擇 1. http://www.linuxidc.com/Linux/2016-10/136327.htm 2. 安裝好Ubuntu16.04後,是一臺空白的Ubuntu。我的目的是搭建LAMP環境,順便搭一

[Mini2440 - 003] 搭建開發環境 - 獲取 Ubuntu 16.04 LTS

火狐 直接 需要 lac blog 開始 百度 由於 心情 一、從 Ubuntu 官網獲取目前(2017-10-06)最新的 Ubuntu 16.04.3 LTS 版本。   1. 百度搜索 ubuntu 關鍵字,進入 ubuntu 官網。      2. Ubuntu 為

Ubuntu 16.04搭建基於攜程Apollo(阿波羅)配置中心單機模式

settings cal tro script fig setting col 文件夾 .gz 官網:https://github.com/ctripcorp/apollo Wiki:https://github.com/ctripcorp/apollo/wiki Is

阿裏雲 Ubuntu 16.04 搭建LAMP環境

一個 tar mysql- png 遠程訪問 環境配置 b- ppa date 平時都用公司的測試服務器,而公司的服務器都是我們老大搭好的。最近趁著雙十一阿裏雲搞活動,買了個低配置的服務器自己玩玩。俗話說,好記性不如爛筆頭,還是把配置過程記下來吧! 操作系統:Ubunt

Ubuntu 16.04系統 之 java開發環境搭建

nag AR con star inux username oca 生效 位操作 在Ubuntu 16.04(我的是64位操作系統)上搭建java開發環境: 事前準備:jdk、tomcat、eclipse、mysql jdk安裝配置: 我選擇的是jdk版本為1.8:安裝包位