你的位置: 首頁 > 公開課首頁 > 職業技能 > 課程詳情

details

大數據建模與分析挖掘應用

暫無評價   
  • 開課時間:2019年11月23日 09:00 周六(報名中)
  • 結束時間:2019年11月26日 17:00 周二
  • 開課地點:廣州市
  • 授課講師: 周老師
  • 課程編號:386098
  • 課程分類:職業技能
  •  
  • 收藏 人氣:168
你實際購買的價格
付款時最多可用0淘幣抵扣0元現金
購買成功后,系統會給用戶帳號返回的現金券
淘課價格
7800
可用淘幣
0
返現金券
待定

你還可以: 收藏

課程大綱:

課程詳情

兩個完整的項目任務和實踐案例(重點)

1.日志分析建模與日志挖掘項目實踐

a)Hadoop,Spark,并結合ELK技術構建日志分析系統和日志數據倉庫

b)互聯網微博日志分析系統項目

2.推薦系統項目實踐

a)電影數據分析與個性化推薦關聯分析項目

b)電商購物籃分析項目

Hadoop,Spark,可結合Oryx分布式集群在個性化推薦和精準營銷項目。 項目的階段性步驟貫穿到三天的培訓過程中,第三天完成整個項目的原型

業界主流的數據倉庫工具和大數據分析挖掘工具

1.業界主流的基于Hadoop和Spark的大數據分析挖掘項目解決方案

2.業界數據倉庫與數據分析挖掘平臺軟件工具

3.Hadoop數據倉庫工具Hive

4.Spark實時數據倉庫工具SparkSQL

5.Hadoop數據分析挖掘工具Mahout

6.Spark機器學習與數據分析挖掘工具MLlib

7.大數據分析挖掘項目的實施步驟 配置數據倉庫工具Hadoop Hive和SparkSQL

部署數據分析挖掘工具Hadoop Mahout和Spark MLlib

大數據分析挖掘項目的數據集成操作訓練

1.日志數據解析和導入導出到數據倉庫的操作訓練

2.從原始搜索數據集中抽取、集成數據,整理后形成規范的數據倉庫

3.數據分析挖掘模塊從大型的集中式數據倉庫中訪問數據,一個數據倉庫面向一個主題,構建兩個數據倉庫

4.同一個數據倉庫中的事實表數據,可以給多個不同類型的分析挖掘任務調用

5.去除噪聲

項目數據集加載ETL到Hadoop Hive數據倉庫并建立多維模型

基于Hadoop的大型數據倉庫管理平臺HIVE數據倉庫集群的多維分析建模應用實踐 6.基于Hadoop的大型分布式數據倉庫在行業中的數據倉庫應用案例

7.Hive數據倉庫集群的平臺體系結構、核心技術剖析

8.Hive Server的工作原理、機制與應用

9.Hive數據倉庫集群的安裝部署與配置優化

10.Hive應用開發技巧

11.Hive SQL剖析與應用實踐

12.Hive數據倉庫表與表分區、表操作、數據導入導出、客戶端操作技巧

13.Hive數據倉庫報表設計

14.將原始的日志數據集,經過整理后,加載至Hadoop + Hive數據倉庫集群中,用于共享訪問 利用HIVE構建大型數據倉庫項目的操作訓練實踐

Spark大數據分析挖掘平臺實踐操作訓練

15.Spark大數據分析挖掘平臺的部署配置

16.Spark數據分析庫MLlib的開發部署

17.Spark數據分析挖掘示例操作,從Hive表中讀取數據并在分布式內存中運行

聚類分析建模與挖掘算法的實現原理和技術應用

18.聚類分析建模與算法原理及其在Spark MLlib中的實現與應用,包括:

a)Canopy聚類(canopy clustering)

b)K均值算法(K-means clustering)

c)模糊K均值(Fuzzy K-means clustering)

d)EM聚類,即期望最大化聚類(Expectation Maximization)

e)以上算法在Spark MLib中的實現原理和實際場景中的應用案例。

19.Spark聚類分析算法程序示例 基于Spark MLlib的聚類分析算法,實現日志數據集中的用戶聚類

分類分析建模與挖掘算法的實現原理和技術應用

20.分類分析建模與算法原理及其在Spark MLlib中的實現與應用, 包括:

f)Spark決策樹算法實現

g)邏輯回歸算法(logistics regression)

h)貝葉斯算法(Bayesian與Cbeyes)

i)支持向量機(Support vector machine)

j)以上算法在Spark MLlib中的實現原理和實際場景中的應用案例。

21.Spark客戶資料分析與給用戶貼標簽的程序示例

22.Spark實現給商品貼標簽的程序示例

23.Spark實現用戶行為的自動標簽和深度技術

基于Spark MLlib的分類分析算法模型與應用操作

關聯分析建模與挖掘算法的實現原理和技術應用

24.預測、推薦分析建模與算法原理及其在Spark MLlib中的實現與應用,包括:

k)Spark頻繁模式挖掘算法(parallel FP Growth Algorithm)應用

l)Spark關聯規則挖掘(Apriori)算法及其應用

m)以上算法在Spark MLib中的實現原理和實際場景中的應用案例。

25.Spark關聯分析程序示例

基于Spark MLlib的關聯分析操作

推薦分析挖掘模型與算法技術應用

26.推薦算法原理及其在Spark MLlib中的實現與應用,包括:

a)Spark協同過濾算法程序示例

b)Item-based協同過濾與推薦

c)User-based協同過濾與推薦

d)交叉銷售推薦模型及其實現

推薦分析實現步驟與操作(重點)

回歸分析模型與預測算法

27.利用線性回歸(多元回歸)實現訪問量預測

28.利用非線性回歸預測成交量和訪問量的關系

29.基于R+Spark實現回歸分析模型及其應用操作

30.Spark回歸程序實現異常點檢測的程序示例

回歸分析預測操作例子

圖關系建模與分析挖掘及其鏈接分析和社交分析操作

31.利用Spark GraphX實現網頁鏈接分析,計算網頁重要性排名

32.實現信息傳播的社交關系傳遞分析,互聯網用戶的行為關系分析任務的操作訓練 圖數據的分析挖掘操作,實現微博數據集的社交網絡建模與關系分析

神經網絡與深度學習算法模型及其應用實踐

33.神經網絡算法Neural Network的實現方法和挖掘模型應用

34.基于人工神經網絡的深度學習的訓練過程

a)傳統神經網絡的訓練方法

b)Deep Learning的訓練方法

35.深度學習的常用模型和方法

a)CNN(Convolutional Neural Network)卷積神經網絡

b)RNN(Recurrent Neural Network)循環神經網絡模型

c)Restricted Boltzmann Machine(RBM)限制波爾茲曼機

36.基于Spark的深度學習算法模型庫的應用程序示例

基于Spark或TensorFlow神經網絡深度學習庫實現文本與圖片數據挖掘

時間 內容提要 授課詳細內容 實踐訓練

第一天 業界主流的數據倉庫工具和大數據分析挖掘工具 1.業界主流的基于Hadoop和Spark的大數據分析挖掘項目解決方案

2.業界數據倉庫與數據分析挖掘平臺軟件工具

3.Hadoop數據倉庫工具Hive

4.Spark實時數據倉庫工具SparkSQL

5.Hadoop數據分析挖掘工具Mahout

6.Spark機器學習與數據分析挖掘工具MLlib

7.大數據分析挖掘項目的實施步驟 配置數據倉庫工具Hadoop Hive和SparkSQL


部署數據分析挖掘工具Hadoop Mahout和Spark MLlib

大數據分析挖掘項目的數據集成操作訓練 1.日志數據解析和導入導出到數據倉庫的操作訓練

2.從原始搜索數據集中抽取、集成數據,整理后形成規范的數據倉庫

3.數據分析挖掘模塊從大型的集中式數據倉庫中訪問數據,一個數據倉庫面向一個主題,構建兩個數據倉庫

4.同一個數據倉庫中的事實表數據,可以給多個不同類型的分析挖掘任務調用

5.去除噪聲 項目數據集加載ETL到Hadoop Hive數據倉庫并建立多維模型

基于Hadoop的大型數據倉庫管理平臺HIVE數據倉庫集群的多維分析建模應用實踐 6.基于Hadoop的大型分布式數據倉庫在行業中的數據倉庫應用案例

7.Hive數據倉庫集群的平臺體系結構、核心技術剖析

8.Hive Server的工作原理、機制與應用

9.Hive數據倉庫集群的安裝部署與配置優化

10.Hive應用開發技巧

11.Hive SQL剖析與應用實踐

12.Hive數據倉庫表與表分區、表操作、數據導入導出、客戶端操作技巧

13.Hive數據倉庫報表設計

14.將原始的日志數據集,經過整理后,加載至Hadoop + Hive數據倉庫集群中,用于共享訪問 利用HIVE構建大型數據倉庫項目的操作訓練實踐

Spark大數據分析挖掘平臺實踐操作訓練 15.Spark大數據分析挖掘平臺的部署配置

16.Spark數據分析庫MLlib的開發部署

17.Spark數據分析挖掘示例操作,從Hive表中讀取數據并在分布式內存中運行

第二天 聚類分析建模與挖掘算法的實現原理和技術應用 18.聚類分析建模與算法原理及其在Spark MLlib中的實現與應用,包括:

a)Canopy聚類(canopy clustering)

b)K均值算法(K-means clustering)

c)模糊K均值(Fuzzy K-means clustering)

d)EM聚類,即期望最大化聚類(Expectation Maximization)

e)以上算法在Spark MLib中的實現原理和實際場景中的應用案例。

19.Spark聚類分析算法程序示例 基于Spark MLlib的聚類分析算法,實現日志數據集中的用戶聚類

分類分析建模與挖掘算法的實現原理和技術應用 20.分類分析建模與算法原理及其在Spark MLlib中的實現與應用, 包括:

f)Spark決策樹算法實現

g)邏輯回歸算法(logistics regression)

h)貝葉斯算法(Bayesian與Cbeyes)

i)支持向量機(Support vector machine)

j)以上算法在Spark MLlib中的實現原理和實際場景中的應用案例。

21.Spark客戶資料分析與給用戶貼標簽的程序示例

22.Spark實現給商品貼標簽的程序示例

23.Spark實現用戶行為的自動標簽和深度技術 基于Spark MLlib的分類分析算法模型與應用操作

關聯分析建模與挖掘算法的實現原理和技術應用 24.預測、推薦分析建模與算法原理及其在Spark MLlib中的實現與應用,包括:

k)Spark頻繁模式挖掘算法(parallel FP Growth Algorithm)應用

l)Spark關聯規則挖掘(Apriori)算法及其應用

m)以上算法在Spark MLib中的實現原理和實際場景中的應用案例。

25.Spark關聯分析程序示例 基于Spark MLlib的關聯分析操作

第三天 推薦分析挖掘模型與算法技術應用 26.推薦算法原理及其在Spark MLlib中的實現與應用,包括:

a)Spark協同過濾算法程序示例

b)Item-based協同過濾與推薦

c)User-based協同過濾與推薦

d)交叉銷售推薦模型及其實現 推薦分析實現步驟與操作(重點)

回歸分析模型與預測算法 27.利用線性回歸(多元回歸)實現訪問量預測

28.利用非線性回歸預測成交量和訪問量的關系

29.基于R+Spark實現回歸分析模型及其應用操作

30.Spark回歸程序實現異常點檢測的程序示例 回歸分析預測操作例子

圖關系建模與分析挖掘及其鏈接分析和社交分析操作 31.利用Spark GraphX實現網頁鏈接分析,計算網頁重要性排名

32.實現信息傳播的社交關系傳遞分析,互聯網用戶的行為關系分析任務的操作訓練 圖數據的分析挖掘操作,實現微博數據集的社交網絡建模與關系分析

神經網絡與深度學習算法模型及其應用實踐 33.神經網絡算法Neural Network的實現方法和挖掘模型應用

34.基于人工神經網絡的深度學習的訓練過程

a)傳統神經網絡的訓練方法

b)Deep Learning的訓練方法

35.深度學習的常用模型和方法

a)CNN(Convolutional Neural Network)卷積神經網絡

b)RNN(Recurrent Neural Network)循環神經網絡模型

c)Restricted Boltzmann Machine(RBM)限制波爾茲曼機

36.基于Spark的深度學習算法模型庫的應用程序示例 基于Spark或TensorFlow神經網絡深度學習庫實現文本與圖片數據挖掘

項目實踐

37.日志分析系統與日志挖掘項目實踐

a)Hadoop,Spark,ELK技術構建日志數據倉庫

b)互聯網微博日志分析系統項目

38.推薦系統項目實踐

a)電影數據分析與個性化推薦關聯分析項目

項目數據集和詳細的實驗指導手冊由講師提供

培訓總結

39.項目方案的課堂討論,討論實際業務中的分析需求,剖析各個環節的難點、痛點、瓶頸,啟發出解決之道;完成講師布置的項目案例,鞏固學過的大數據分析挖掘處理平臺技術知識以及應用技能 討論交流

第四天

學員考試與業界交流


講師介紹

周老師,資深講師。中國科學院通信與信息系統專業博士。北京郵電大學移動互聯網與信息化實驗室特聘研究員、對外經貿大學信息學院特聘兼職教師、中國移動集團高級培訓講師,長期從事大數據、4G、移動互聯網安全、管理及大數據精確營銷等研究方向。國內頂級信息系統架構師,金牌講師,技術顧問,移動開發專家。擁有豐富的通信信息系統設計、開發經驗及培訓行業經驗,先后為全國超過15家省移動公司,超過30家地市移動公司有過項目開發合作及授課,擔任多個大型通信項目的總師。


張老師,資深講師。阿里大數據高級專家,國內資深的Spark、Hadoop技術專家、虛擬化專家,對HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生態系統中的技術進行了多年的深入的研究,更主要的是這些技術在大量的實際項目中得到廣泛的應用,因此在Hadoop開發和運維方面積累了豐富的項目實施經驗。近年主要典型的項目有:某電信集團網絡優化、中國移動某省移動公司請賬單系統和某省移動詳單實時查詢系統、中國銀聯大數據數據票據詳單平臺、某大型銀行大數據記錄系統、某大型通信運營商全國用戶上網記錄、某省交通部門違章系統、某區域醫療大數據應用項目、互聯網公共數


本課程名稱: 大數據建模與分析挖掘應用

查看更多:職業技能公開課

互聯網 相關的最新課程
講師動態評分 與同行相比

授課內容與課綱相符00%

講師授課水平00%

服務態度00%

陕西11选5开奖