
Spark 實時電商數(shu)據分(fen)析及可視(shi)化培(pei)訓
Spark 實時電商數據分析可(ke)視化系統是一個經典的大數據應(ying)用項目,
技(ji)術棧主要有 Flume、Kafka、Spark Streaming、Flask 等,
幫(bang)助大家了解和(he)運用(yong)一(yi)些當前熱(re)門的大數(shu)據處(chu)理組(zu)件來親自動手搭建一(yi)套大數(shu)據處(chu)理平臺框架和(he)熟悉(xi)大數(shu)據項目的基礎開發流程。
1 Spark Streaming 與 Kafka 的對接
2 Kafka 消費者(zhe)(zhe)和生產(chan)者(zhe)(zhe)的應用
3 Echarts 數據展示(shi)
4 SocketIO 的(de)使用
5 Dstream 中使用 Redis
6 Kafka 主題創(chuang)建及(ji)數據存(cun)儲
7 Kafka 整合 Flume
8 Flask 與 Kafka 對(dui)接
9 Flask 整合 SocketIO
10 Spark Streaming 高級(ji)函數應用
1
數據采集與傳輸
1.Flume和Kafka基本操作(zuo)命令
2.Kafka中(zhong)Topic的創(chuang)建
3.Flume作為(wei)Kafka數據源的(de)配置
4.Zookeeper、Kafka、Flume整合使用
5.Flume與(yu)Kafka整合的優點(dian)
6.數據消費
2
數(shu)據處理(li)之 Spark 對接 Kafka
1.Sparkshell應用
2.Scala在項目中的使用
3.SparkStreaming對接Kafka
4.SparkDstream的創建
5.消費Kafka中Topic的數據(ju)
6.樣例類的創建
7.數據預處理
3
數據處理之 Spark 函數應(ying)用
1.Sparkstreaming中map、updateStateBy等函數的(de)應用
2.KafkaSink工具類創建
3.KafkaProducer的(de)創建及使用
4.累加函(han)數的編寫
5.Sparkstreaming中(zhong)的全局狀態
4
數據(ju)可視化之(zhi) Flask 對接(jie) Kafka
1.Flask簡(jian)單(dan)應用(yong)
2.項目框架配置
3.kafkaConsumer的創建
4.Flask與Kafka對接
5.消費Kafka中Topic的數據(ju)
5
數據(ju)可(ke)視(shi)化之 SocketIO 數據(ju)推送
1.SocketIO應用
2.Flask視圖函(han)數
3.Socket對象創建
4.線程回調(diao)函數(shu)編寫 5.JavaScript應用(yong)
6
Echarts 應用
1.Echarts引入及應用
2.Echarts常(chang)用屬性
3.Echarts加載SocketIO數(shu)據
4.Echarts圖表(biao)對象創建
7
項目拓展
1.Redis簡介及(ji)應用
2.滑動窗口的應(ying)用
3.Redis數據(ju)存儲
4.Redis工具類創(chuang)建
8
項目總結
1.Flink簡(jian)介及應用(yong)
2.項目中使用Flink替代Spark
3.Canal簡介及應用
4.HBase簡介及應用
5.基于Flink的實(shi)時(shi)數(shu)倉
