1. 程式人生 > >將本地檔案目錄移動(或cp)到hdfs下shell指令碼

將本地檔案目錄移動(或cp)到hdfs下shell指令碼

寫了一下指令碼,實現了以下功能:

1、保證同一時間只有一個該指令碼的例項在執行,避免造成操作衝突

2、移動本地檔案目錄到hdfs下,目錄路徑相同

uploadtoHadoop.sh

#!/bin/bash
#pid=`ps -ef | grep -v grep | grep uploadtoHadoop | awk '{print $2}'`
pid=`ps -ef | grep -v grep | grep uploadtoHadoop | wc -l`

usage()
{
        echo "usage: `basename $0` /data/192.168.0.1/20110313/***/"
}
URL=$1

if [ $# -ne 1 ]
then
        usage
        exit 1
fi

if [ "$pid" = "2" ]
then
        echo start

        hadoop fs -mkdir $1/
        hadoop fs -moveFromLocal $1/* $1/

        echo complete
else
        echo program exist!
fi

使用如下 sh uploadHadoop.sh /待移動的目錄名稱

start

complete

如果該指令碼同時執行2個例項,第二個例項會報錯,退出。

相關推薦

本地檔案目錄移動cphdfsshell指令碼

寫了一下指令碼,實現了以下功能: 1、保證同一時間只有一個該指令碼的例項在執行,避免造成操作衝突 2、移動本地檔案目錄到hdfs下,目錄路徑相同 uploadtoHadoop.sh #!/bin/bash #pid=`ps -ef

c#本地檔案上傳至伺服器內網

using System; using System.Collections.Generic; using System.ComponentModel; using System.Data; using System.Drawing; using System.Linq; u

hadoop建立資料夾及本地檔案移動hdfs

[[email protected] localfiles]# hdfs dfs -mkdir /user [[email protected] localfiles]# hdfs

本地檔案上傳到Linux目錄(上傳到vm虛擬機器中)

我們使用一個方便的工具,名叫:FileZilla 來源百度百科 FileZilla是一個免費開源的FTP軟體,分為客戶端版本和伺服器版本,具備所有的FTP軟體功能。可控性、有條理的介面和管理多站點的簡化方式使得Filezilla客戶端版成為一個方便

使用 qshell 本地檔案同步到七牛雲

專案升級,打算把 public 目錄下的 css、js、image等檔案,上傳到七牛雲,一直想搞來著,今天又想起來,正好 laravel 也從 5.2 升級到了 5.7,接下來把這邊一搞,專案就更加優化了。 首先查詢文件: // 文件中心 - 物件儲存 https://developer.q

如何本地檔案上傳到code阿里雲

一、首先要有自己的阿里雲賬號和已下載GIt軟體 二、登入到阿里雲專案 三、新增專案,輸入專案名稱,最好使用英文,點選確定,這個時候你的專案裡面是沒有檔案的,但是下面有上傳檔案的提示 四、把本地檔案上傳到建立的專案裡面 1、Git初始化,在需要上傳的資料夾右鍵選擇Git Bash He

如何本地檔案推送到Git遠端倉庫

準備 1.首先你要安裝Git 2.其次你要有一個遠端倉庫,現在大家用的比較多的比如:https://github.com/ , https://about.gitlab.com/ 3.最後你要準備好你要管理的專案檔案 加入Git版本管理 其實要講的就是github倉庫建立時給

如何本地檔案通過終端上傳到linux伺服器 /伺服器/阿里雲

scp -P 埠 c://xxxx.txt [email protected]:/home/root 注意: -P 大寫 -i 公鑰 (我是將檔案上傳到阿里雲)   (1)在本地的終端下,而不是在伺服器上。在本地的終端上才能將本地的檔案拷入伺服器。 (2)

scp本地檔案複製到遠端主機

scp可以將本地檔案複製到遠端主機,但是將該主機當跳板機複製到其他主機則沒法直接操作; host data     User data     ProxyCommand ssh [email protected] -p 2222 nc 192.1

SecureCRT本地檔案上傳至centos7(linux)伺服器上

方法一: 上傳檔案只需在shell終端模擬器中輸入命令“rz”,即可從彈出的對話方塊中選擇本地磁碟上的檔案,利用Zmodem上傳到伺服器當前路徑下。 下載檔案只需在shell終端模擬器中輸入命令“sz 檔名”,即可利用Zmodem將檔案下載到本地某目錄下。 通過“File

通過git本地檔案上傳到碼雲的方面

1. 在碼雲上建立專案在碼雲首頁頂部,下圖所示,右上角頭像旁邊的加號,滑鼠移上去會顯示下拉的,點選“新建專案”。 2. 安裝Git 下載完成後安裝即可,安裝過程中沒有注意事項,全部預設一直next直到結束!3.配置Git工具安裝完成以後從桌面或開始選單開啟Git工具{點選Git bash 開啟}。 3.

Delphi檔案目錄操作轉載

Delphi判斷資料夾(目錄)是否存在,不存在就建立一個,可以一次建立多級目錄     procedure TForm1.Button1Click(Sender: TObject);begin if not FileExists(Edit1.Text) then//if not Di

WebService學習(一): 按照步驟看懂WebService的wsdlxml檔案

前言:WebService的學習並不是專案中使用到的,只不過是今天一個朋友諮詢我關於WebService的一些知識,雖然之前對WebService有一些瞭解,但當時看了不少文章都無法理解,畢竟沒有實質性的事,只是單獨學習的話,效率會很慢,所以今天趁著朋友諮詢我,本著有問必答的態度,突然間就對

使用Git本地檔案提交到遠端倉庫

  一 操作準備條件:     git遠端倉庫已經建好了,本地檔案已經存在了,現在要將原生代碼推到git遠端倉庫儲存。 解決辦法如下: 1、(先進入專案資料夾)通過命令 git init 把這個目錄變成git可以管理的倉庫 git init   2、把檔案

hadoop入門之通過java程式碼實現本地檔案上傳到hadoop的檔案系統

package upload;import java.io.BufferedInputStream;import java.io.FileInputStream;import java.io.InputStream;import java.io.OutputStream;import java.net.URI

git本地檔案推到遠端倉庫

case描述:    git遠端倉庫已經建好了,本地檔案已經存在了,現在要將原生代碼推到git遠端倉庫儲存。解決辦法如下:1、(先進入專案資料夾)通過命令 git init 把這個目錄變成git可以管理的倉庫git init2、把檔案新增到版本庫中,使用命令 git add

MySql、Oracle(通用方法)遞迴查詢生成檔案目錄JAVA實現 遞迴過程中不訪問資料庫,遞迴之前只訪問兩次 進行遞迴前資料準備

查詢檔案樹 實體類 public class TradeInfoFile { ​ // 檔案編碼(子) private String fileCode; // 所屬檔案編碼(父) private String belongFileCode; // 交易

怎麼安裝hexo通過命令視窗本地檔案推到github

1.hexo是基於node和git,因此要先下載node.js和git,安裝好後,在命令視窗下載npm包管理工具,視窗命令為:npm install -g hexo --registry=https://registry.npm.taobao.org(此為淘寶映象代理的倉庫,下載速度比較快)

本地檔案上傳到Windows Azure虛機

使用Windows Azure中的虛機,我們常常需要將一些檔案從本地上傳到虛機中( 例如,上傳某個軟體的安裝映象檔案)。要做這件事,有很多的方法,例如: 1. 在遠端桌面(RDP)連線中,開啟剪下板。 2. 將檔案從本地上傳到Windows Azure Storage,然

本地Mysql5.7主從Master/Slave安裝詳解,my.ini檔案配置

找到Master mysql的位置 C:\Program Files\MySQL\MySQL Server 5.7 複製資料夾到你所需要的目錄,我是在D:\Mysql separation\MySQL