1. 程式人生 > >1.1大數據平臺架構

1.1大數據平臺架構

軟件架構 17. 大數據 cor dev com 大數據平臺架構 數據挖掘 out

1.硬件架構實例

技術分享圖片

2.軟件架構實例

技術分享圖片

3.數據流通用概念模型

a.數據源(互聯網、物聯網、企業數據):App、Device、Site

b.數據收集(ETL、提取、轉換、加載):Flume、Kafka、Sqoop

c.數據存儲:HDFS、Hive/HBase

d.資源管理:Yarn、Mesos

e.批處理:MapReduce、Spark core

流處理:Storm、Spark streaming

f.數據挖掘(OLAP、BI):Mahout、MLlib

g.數據可視化(report)

4.Hadoop生態圈

技術分享圖片

技術分享圖片

1.1大數據平臺架構