1. 程式人生 > >flume 安裝和使用教程

flume 安裝和使用教程

1.flume 需要Java1.7以上版本,然後需要配置好Java環境變數

2.下載軟體。

Flume官網上http://flume.apache.org/download.html下載軟體包,

wget "http://mirrors.cnnic.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz"

tar -zxvf apache-flume-1.6.0-bin.tar.gz

3.簡單示例。

修改配置檔案。

cd conf/

cp cp flume-conf.properties.template test.conf  

輸入內容vim test.conf

# 指定Agent的元件名稱

a1.sources = r1

a1.sinks = k1

a1.channels = c1

#

# # 指定Flume source(要監聽的路徑)

a1.sources.r1.type = spooldir

a1.sources.r1.spoolDir = /home/chao/txt

#

# # 指定Flume sink

#

# # 指定Flume channel

a1.channels.c1.type = memory

a1.channels.c1.capacity = 1000

a1.channels.c1.transactionCapacity = 100

#

# # 繫結source和sink到channel上

a1.sources.r1.channels = c1

a1.sinks.k1.channel = c1

 

儲存並退出

啟動flume agent

bin/flume-ng agene --confconf--conf-file conf/flume.conf --name a1 -Dflume.root.logger=INFO,console


3.測試

寫入內容。

vim 1.log

輸入內容 this is a test 儲存並退出。

 cp 1.log /home/chao/txt/

接著就可以在前一個終端看到剛剛採集的內容了

,如下:

syslog資料測試。

[email protected]:/home/hadoop# echo "hello idoall.orgsyslog"| nc localhost 5140




syslog資料到flume到kafka

配置檔案。



單個source 多個sink。


Source型別。


 Channel 型別。


Sink型別:


配置

1.sinks.k1.sink.rollInterval = 0

30秒滾動一次檔案。指定0將禁用滾動,並導致將所有事件寫入一個檔案。

a1.sinks.k1.type = file_roll 寫檔案。

a1.sinks.k1.sink.directory = /home/chao/log檔案路徑

a1.sinks.k1.sink.rollInterval = 0 只寫一個檔案。










相關推薦

flume 安裝使用教程

1.flume 需要Java1.7以上版本,然後需要配置好Java環境變數2.下載軟體。到Flume官網上http://flume.apache.org/download.html下載軟體包,wget "http://mirrors.cnnic.cn/apache/flume

Flume安裝配置

header ppc org inter deb type form 配置文件 close Flume的官網   http://flume.apache.org Flume的部署   1、JDK的安裝   2、安裝包下載網址:apache-flume-1.5.0-b

Android 開發之Windows環境下Android Studio安裝使用教程(圖文詳細步驟)

9.png 虛擬機 jdk版本 編寫 clip 開發平臺 集成開發 arc 電腦安裝 鑒於谷歌最新推出的Android Studio備受開發者的推崇,所以也跟著體驗一下。 一、介紹Android Studio Android Studio 是一個Android

redis學習教程一《Redis的安裝配置》

遠程服務 name 工具 列表 端口號 裏的 redis服務器 映射 tin redis學習教程一《Redis的安裝和配置》 Redis的優點 以下是Redis的一些優點。 異常快 - Redis非常快,每秒可執行大約110000次的設置(SET)操作,每秒大約可執

win7下IIS的安裝配置 圖文教程

功能 服務 ges mage net 註冊 png com 服務器 最近想自己用自己的電腦搭一臺服務器,註冊了花生殼,得到了一個免費的域名,然後需要使用IIS服務,我的電腦是Win7的,默認是不安裝IIS的,於是只好先安裝起來 一.首先是安裝IIS。打開控制面板,打開“程序

1、koala軟件的安裝使用--less教程

技術分享 demo pan lin target body koa app 密碼 最近在學習less,感覺可以編譯的CSS真是爽,懶人必備。 1、我這裏使用到koala軟件來編譯less文件生成CSS。 附上百度網盤下載鏈接: 下載鏈接         密碼:

jupyter(ipython notebook) 安裝入門教程

回車 pandas 可能 IT com .com http python2 width 近期大家無論是自己做數據分析還是緊急答辯做PPT,可能都需要畫一些數據的展示圖;以前大家都是用excel畫圖,但excel畫圖存在一定的局限性,比如你要畫個累積直方圖,excel就很

Oracle 11g數據庫安裝卸載教程

manager 路徑 內存 size alc ftw 單例 code ice Oracle11g的安裝教程 同時解壓縮兩個zip文件,生成一個database文件夾,進入到database文件夾,點擊setup 去掉安全更新的選項,直接下一步 選擇創建和配置數

安裝Linux教程使用putty進行遠程連接

putty VMWare 安裝Linux教程和使用putty進行遠程連接 使用VMwareWorkstationPro創建新的虛擬機,如圖所示:點擊“創建新的虛擬機”進入到如下界面,選擇自定義即可: 直接點擊下一步即可:之後會進入到如下界面(可以直接選擇安裝程序光盤映像文件,這裏是稍後安裝,先用虛

putty的下載安裝基本使用方法教程

putty putty下載 putty安裝 putty基本使用教程 putty入門 PuTTY是一款開源(Open Source Software)的連接軟件,主要由Simon Tatham維護,使用MIT許可證授權。包含的組件有:PuTTY, PuTTYgen,PSFTP, PuTTYt

013-PowerDesigner 16.5 安裝卸載教程【包含下載地址】

應用程序 font idt out 文件 權限 des bubuko 但是 1 下載 下載地址:https://pan.baidu.com/s/1kqly0d8qU-QluEagXwh53g 密碼:n1a3 下載之後目錄結構如下: 2 安裝教程 1 安裝 1

Git 安裝使用教程(轉載)

教程 不同的 時間 sdn 開發 .com 代碼 安裝 com 轉載:https://www.cnblogs.com/smuxiaolei/p/7484678.html Git介紹 分布式:Git版本控制系統是一個分布式的系統,是用來保存工程源代碼歷史狀態的命令行工具。

楊澤業:linux遠程桌面連接軟件xshellftp軟件xftp安裝圖文教程

語言 nbsp rgb none 上傳 orm 進入目錄 壓縮文件 windows 在linux系統中,Xshell和Xftp配合使用,是一套非常方便的linux服務器管理軟件。xshell是通過輸入命令來對服務器進行操作,如進入目錄,壓縮文件,解壓文件,啟動服務等等。Xf

Python3 turtle安裝使用教程

canvas 範圍 復制 準備 make col -o lee got Turtle庫是Python語言中一個很流行的繪制圖像的函數庫,想象一個小烏龜,在一個橫軸為x、縱軸為y的坐標系原點,(0,0)位置開始,它根據一組函數指令的控制,在這個平面坐標系中移動,從而在它爬行的

Spring Boot基礎教程》 第1節工具的安裝使用

article pac java upd ips help 如何快速 安裝 nbsp 《Spring Boot基礎教程》 第1節 工具的安裝和使用 Spring Boot文檔 https://qbgbook.gitbooks.io/spring-boot-reference

JAVA的下載與安裝環境變量配置等詳細教程

bin 命令提示符 1.3 學習 1.7 常常 表示 最新 edi 初學JAVA時,新手常常不知如何下載JAVA,也不知如何安裝JAVA以及對JAVA配置環境變量。近期學弟學妹常請教我如何下載安裝和配置JAVA,於是寫下此博文以便更多新手快速入門,由於我本人是玩智能車的,因

Adobe Photoshop CC 2107安裝破解教程

首先下載Adobe Photoshop CC 2107,百度雲盤地址:                   &n

PyCharm的安裝使用教程(蒐羅網上大神帖子彙總)

首先是我自己的經驗 安裝第一次各種問題!就不多了,反正各種報錯 原因是當前使用者的名字是中文!在建立檔案的時候,路徑裡不能有中文 解決方案 首先新增管理員 https://jingyan.baidu.com/article/fdffd1f87f7d6ff3e98c

Python 基礎全套教程 :01環境的安裝使用

Python環境搭建 Python可應用於多平臺包括Windows、 Linux/Unix 和 Mac OS。 Python下載 Python最新原始碼,二進位制文件,新聞資訊等可以在Python的官網檢視到: Python官網:http://www.py

Django2.1入門教程(一)django2.1的安裝使用

1、Django簡介 Django是使用python語言開發的一套免費開源的後臺web框架,主要為前端html提供後臺資料支援,後臺專案的執行需要依託於伺服器,從而接收前端傳送的請求,後臺予以響應。 Django提供了一個測試伺服器,是執行在本地電腦之上的。 2005年7月份釋出,2008年