2018-11-12
關於舉辦 “大資料建模與分析挖掘應用”實戰培訓班的通知
一、課程簡介
大資料建模與分析挖掘技術已經逐步地應用到新興網際網路企業（如電子商務網站、搜尋引擎、社交網站、網際網路廣告服務提供商等）、銀行金融證券企業、電信運營等行業，給這些行業帶來了一定的資料價值增值作用。
本次課程面向有一定的資料分析挖掘演算法基礎的工程師，帶大家實踐大資料分析挖掘平臺的專案訓練，系統地講解資料準備、資料建模、挖掘模型建立、大資料分析與挖掘演算法應用在業務模型中，結合主流的Hadoop與Spark大資料分析平臺架構，實現專案訓練。
結合業界使用最廣泛的主流大資料平臺技術，重點剖析基於大資料分析演算法與BI技術應用，包括分類演算法、聚類演算法、預測分析演算法、推薦分析模型等在業務中的實踐應用，並根據講師給定的資料集，實現兩個基本的日誌資料分析挖掘系統，以及電商（或內容）推薦系統引擎。
本課程基本的實踐環境是Linux叢集，JDK1.8， Hadoop 2.7.*，Spark 2.1.*。
學員需要準備的電腦最好是i5及以上CPU，4GB及以上記憶體，硬碟空間預留50GB（可用行動硬碟），基本的大資料分析平臺所依賴的軟體包和依賴庫等，講師已經提前部署在虛擬機器映象（VMware映象），學員根據講師的操作任務進行實踐。
本課程採用技術原理與專案實戰相結合的方式進行教學，在講授原理的過程中，穿插實際的系統操作，本課程講師也精心準備的實際的應用案例供學員動手訓練。
二、培訓時間及地點 ： 可諮詢：13932327338 微信同號
2018年11月24日--28日 珠海（24日全天報到）
2018年12月22日--26日 北京（22日全天報到）
2019年01月19日--23日 杭州（19日全天報到）
掃下方二維碼，關注公眾微訊號
三、培訓目標
1.本課程讓學員充分掌握大資料平臺技術架構、大資料分析的基本理論、機器學習的常用演算法、國內外主流的大資料分析與BI商業智慧分析解決方案、以及大資料分析在搜尋引擎、廣告服務推薦、電商資料分析、金融客戶分析方面的應用案例。
2.本課程強調主流的大資料分析挖掘演算法技術的應用和分析平臺的實施，讓學員掌握主流的基於大資料Hadoop和Spark、R的大資料分析平臺架構和實際應用，並用結合實際的生產系統案例進行教學，掌握基於Hadoop大資料平臺的資料探勘和資料倉庫分散式系統平臺應用，以及商業和開源的資料分析產品加上Hadoop平臺形成大資料分析平臺的應用剖析。
3.讓學員掌握常見的機器學習演算法，深入講解業界成熟的大資料分析挖掘與BI平臺的實踐應用，並以客戶分析系統、日誌分析和電商推薦系統為案例，串聯常用的資料探勘技術進行應用教學。
四、培訓人群
1.大資料分析應用開發工程師
2.大資料分析專案的規劃諮詢管理人員
3.大資料分析專案的IT專案高管人員
4.大資料分析與挖掘處理演算法應用工程師
5.大資料分析叢集運維工程師
6.大資料分析專案的售前和售後技術支援服務人員
五、培訓特色
定製授課+ 實戰案例訓練+ 互動諮詢討論，共3天
（說明：講師會提供虛擬機器映象，並把Hadoop，Spark等系統提前部署在虛擬機器中，分析挖掘平臺構建在Hadoop與Spark之上，學員自帶筆記本，執行虛擬機器，並利用同樣的映象啟動多臺虛擬機器，構建實驗叢集，映象會提前給學員）
六、詳細大綱與培訓內容
兩個完整的專案任務和實踐案例（重點） 1.日誌分析建模與日誌挖掘專案實踐
a)Hadoop，Spark，並結合ELK技術構建日誌分析系統和日誌資料倉庫
b)網際網路微博日誌分析系統專案
2.推薦系統專案實踐
a)電影資料分析與個性化推薦關聯分析專案
b)電商購物籃分析專案
Hadoop，Spark，可結合Oryx分散式叢集在個性化推薦和精準營銷專案。 專案的階段性步驟貫穿到三天的培訓過程中，第三天完成整個專案的原型
培訓內容安排如下：
時間 內容提要 授課詳細內容 實踐訓練
第一天 業界主流的資料倉庫工具和大資料分析挖掘工具 1. 業界主流的基於Hadoop和Spark的大資料分析挖掘專案解決方案
2. 業界資料倉庫與資料分析挖掘平臺軟體工具
3. Hadoop資料倉庫工具Hive
4. Spark實時資料倉庫工具SparkSQL
5. Hadoop資料分析挖掘工具Mahout
6. Spark機器學習與資料分析挖掘工具MLlib
7. 大資料分析挖掘專案的實施步驟 配置資料倉庫工具Hadoop Hive和SparkSQL
部署資料分析挖掘工具Hadoop Mahout和Spark MLlib
大資料分析挖掘專案的資料整合操作訓練 1. 日誌資料解析和匯入匯出到資料倉庫的操作訓練
2. 從原始搜尋資料集中抽取、整合資料，整理後形成規範的資料倉庫
3. 資料分析挖掘模組從大型的集中式資料倉庫中訪問資料，一個數據倉庫面向一個主題，構建兩個資料倉庫
4. 同一個資料倉庫中的事實表資料，可以給多個不同型別的分析挖掘任務呼叫
5. 去除噪聲 專案資料集載入ETL到Hadoop Hive資料倉庫並建立多維模型
基於Hadoop的大型資料倉庫管理平臺—HIVE資料倉庫叢集的多維分析建模應用實踐 6. 基於Hadoop的大型分散式資料倉庫在行業中的資料倉庫應用案例
7. Hive資料倉庫叢集的平臺體系結構、核心技術剖析
8. Hive Server的工作原理、機制與應用
9. Hive資料倉庫叢集的安裝部署與配置優化
10. Hive應用開發技巧
11. Hive SQL剖析與應用實踐
12. Hive資料倉庫表與表分割槽、表操作、資料匯入匯出、客戶端操作技巧
13. Hive資料倉庫報表設計
14. 將原始的日誌資料集，經過整理後，載入至Hadoop + Hive資料倉庫叢集中，用於共享訪問 利用HIVE構建大型資料倉庫專案的操作訓練實踐
Spark大資料分析挖掘平臺實踐操作訓練 15. Spark大資料分析挖掘平臺的部署配置
16. Spark資料分析庫MLlib的開發部署
17. Spark資料分析挖掘示例操作，從Hive表中讀取資料並在分散式記憶體中執行
第二天 聚類分析建模與挖掘演算法的實現原理和技術應用 18. 聚類分析建模與演算法原理及其在Spark MLlib中的實現與應用，包括：
a) Canopy聚類（canopy clustering）
b) K均值演算法（K-means clustering）
c) 模糊K均值（Fuzzy K-means clustering）
d) EM聚類，即期望最大化聚類（Expectation Maximization）
e) 以上演算法在Spark MLib中的實現原理和實際場景中的應用案例。
19. Spark聚類分析演算法程式示例 基於Spark MLlib的聚類分析演算法，實現日誌資料集中的使用者聚類
分類分析建模與挖掘演算法的實現原理和技術應用 20. 分類分析建模與演算法原理及其在Spark MLlib中的實現與應用， 包括：
f) Spark決策樹演算法實現
g) 邏輯迴歸演算法（logistics regression）
h) 貝葉斯演算法（Bayesian與Cbeyes）
i) 支援向量機（Support vector machine）
j) 以上演算法在Spark MLlib中的實現原理和實際場景中的應用案例。
21. Spark客戶資料分析與給使用者貼標籤的程式示例
22. Spark實現給商品貼標籤的程式示例
23. Spark實現使用者行為的自動標籤和深度技術 基於Spark MLlib的分類分析演算法模型與應用操作
關聯分析建模與挖掘演算法的實現原理和技術應用 24. 預測、推薦分析建模與演算法原理及其在Spark MLlib中的實現與應用，包括：
k) Spark頻繁模式挖掘演算法（parallel FP Growth Algorithm）應用
l) Spark關聯規則挖掘（Apriori）演算法及其應用
m) 以上演算法在Spark MLib中的實現原理和實際場景中的應用案例。
25. Spark關聯分析程式示例 基於Spark MLlib的關聯分析操作
第三天 推薦分析挖掘模型與演算法技術應用 26. 推薦演算法原理及其在Spark MLlib中的實現與應用，包括：
a) Spark協同過濾演算法程式示例
b) Item-based協同過濾與推薦
c) User-based協同過濾與推薦
d) 交叉銷售推薦模型及其實現 推薦分析實現步驟與操作（重點）
迴歸分析模型與預測演算法 27. 利用線性迴歸（多元迴歸）實現訪問量預測
28. 利用非線性迴歸預測成交量和訪問量的關係
29. 基於R+Spark實現迴歸分析模型及其應用操作
30. Spark迴歸程式實現異常點檢測的程式示例 迴歸分析預測操作例子
圖關係建模與分析挖掘及其連結分析和社交分析操作 31. 利用Spark GraphX實現網頁連結分析，計算網頁重要性排名
32. 實現資訊傳播的社交關係傳遞分析，網際網路使用者的行為關係分析任務的操作訓練 圖資料的分析挖掘操作，實現微博資料集的社交網路建模與關係分析
神經網路與深度學習演算法模型及其應用實踐 33. 神經網路演算法Neural Network的實現方法和挖掘模型應用
34. 基於人工神經網路的深度學習的訓練過程
a) 傳統神經網路的訓練方法
b) Deep Learning的訓練方法
35. 深度學習的常用模型和方法
a) CNN（Convolutional Neural Network）卷積神經網路
b) RNN（Recurrent Neural Network）迴圈神經網路模型
c) Restricted Boltzmann Machine(RBM)限制波爾茲曼機
36. 基於Spark的深度學習演算法模型庫的應用程式示例 基於Spark或TensorFlow神經網路深度學習庫實現文字與圖片資料探勘
專案實踐 37. 日誌分析系統與日誌挖掘專案實踐
a) Hadoop，Spark，ELK技術構建日誌資料倉庫
b) 網際網路微博日誌分析系統專案
38. 推薦系統專案實踐
a) 電影資料分析與個性化推薦關聯分析專案 專案資料集和詳細的實驗指導手冊由講師提供
培訓總結 39. 專案方案的課堂討論，討論實際業務中的分析需求，剖析各個環節的難點、痛點、瓶頸，啟發出解決之道；完成講師佈置的專案案例，鞏固學過的大資料分析挖掘處理平臺技術知識以及應用技能 討論交流
七、師資力量
張老師：阿里大資料高階專家，國內資深的Spark、Hadoop技術專家、虛擬化專家，對HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生態系統中的技術進行了多年的深入的研究，更主要的是這些技術在大量的實際專案中得到廣泛的應用，因此在Hadoop開發和運維方面積累了豐富的專案實施經驗。近年主要典型的專案有：某電信集團網路優化、中國移動某省移動公司請賬單系統和某省移動詳單實時查詢系統、中國銀聯大資料資料票據詳單平臺、某大型銀行大資料記錄系統、某大型通訊運營商全國使用者上網記錄、某省交通部門違章系統、某區域醫療大資料應用專案、網際網路公共資料大雲(DAAS)和構建遊戲雲(Web Game Daas)平臺專案等。 、
鍾老師，男，博士畢業於中國科學院，獲工學博士學位（計算機系統結構方向），曾在國內某高校和某大型通訊企業工作過，目前在中國科學院某研究所工作，高階工程師，副研究員，課題組長，團隊成員二十餘人。大資料、雲端計算系列課程建設與教學專家，新技術課程開發組長。近八年來帶領團隊主要從事大資料管理與高效能分析處理（Hadoop、Spark、Storm）、大資料倉庫（HIVE）和實時資料倉庫（SparkSQL、Shark），大資料建模挖掘與機器學習（Mahout、MLib、Oryx、Pentaho BI、SAS、SPSS、R等）、MPP並行資料倉庫（Greenplum etc）、NoSQL與NewSQL分散式資料庫（HBase、MongoDB、Cassandra etc）、（移動）電子商務平臺、大資料搜尋平臺（ElasticSearch、Solr、Lucene等）、雲端計算與虛擬化（OpenStack，VMware，XenServer，CloudStack，KVM，Docker，SaaS服務）、雲端儲存系統、Swift物件儲存系統、網路GIS地圖伺服器、網際網路+線上教育雲平臺方面的專案研發與管理工作。
八、頒發證書
參加相關培訓並通過考試的學員，可以獲得：
1.工業和資訊化部頒發的-大資料探勘高階工程師職業技能證書。該證書可作為專業技術人員職業能力考核的證明，以及專業技術人員崗位聘用、任職、定級和晉升職務的重要依據。
注：請學員帶二寸彩照2張（背面註明姓名）、身份證影印件一張。
九、培訓費用及須知
培訓費7800元/人。（含培訓費、資料費、考試費、證書費、講義費等）。需要住宿學員請提前通知，可統一安排，費用自理。