【課程內容】
潮流技能 顛覆性課程
拒絕用老掉牙的淘汰項目練手 要做就做前沿
覆蓋大數據行業主流技術崗位,課程半年升級一次,緊跟市場與企業步伐
一、大數據入門基礎課程
1.JavaSE
2.MySQL
3.JDBC
4.Linux
5.shell
6.HTML
7.CSS
8.JavaScript
9.JSP
10.Servlet
二、大數據Hadoop基礎
1.大數據概論
2.Hadoop框架
3.HDFS分布式文件系統
4.MapReduce計算模型
5.全真實訓項目
三、大數據離線分析
1.Hive數據倉庫
2.Sqoop ETL工具
3.Azkaban工作流引擎
4.Ooize
5.Impala
6.全真實訓項目
四、大數據實時計算
1.Zookeeper分布式協調系統
2.HBase分布式數據庫
3.Redis數據庫
4.mogDB數據庫
5.Kudu列式存儲系統
6.Storm實時數據處理平臺
7.Kafka分布式發布訂閱消息系統
8.Flume海量日志采集系統
9.全真實訓綜合項目
五、Spark數據計算
1.Scala
2.Spark
3RDD
4.Spark SQL
5. Streaming
6. Mahout
7.MLlib
8.GraphX
9.Spark R
10.Python
11.Alluxio
12.Python爬蟲
13.ElasticSearch
14.Lucene
【實戰項目】
1.Hadoop基礎實戰項目
項目名稱:搜狗搜索日志分析系統
數據體量:5000W+/日
硬件環境:Hadoop集群 12臺
軟件環境:Hadoop2.5.2+Hive1.2.1+MR+Oracle10g
項目描述:
搜狗每天產生大量的日志數據,從日志數據里面能提取到有用的數據包括每個用戶的ID、瀏覽次數、月/日瀏覽頻率、訪問源、瀏覽內容等等,提取這些內容、統計數據分析每個用戶行為,從而做出有利的決定。
2.大數據離線實戰項目
項目名稱:新浪微博數據分析系統
日均數據體量:3GB+
硬件環境:Hadoop集群 50臺
軟件環境:MapReduce+HBase0.98.9+Storm0.9.6+Hadoop2.5.2+Kafka2.10+Zooke
eper3.4.5+CentOS-6.5-X86
項目描述:
此次項目我們需要處理微博產生的數據,通過對數據的處理得到所需的數據,微博擁有大量的用戶,大量的用戶潛在的價值是巨大,怎么挖掘這些潛在的寶藏就是我們項目直接的目的,為了能夠實時的進行數據處理使用Storm流式計算系統,和HBase、Zookeeper、Kafka組成框架,對數據進行處理,當然這些都是建立在hadoop集群上實現的,底層的存儲還是HDFS。
3.大數據實時全真項目
項目名稱:網絡流量流向異常賬號統計項目
數據體量:每天1000億,每秒峰值100 000
硬件環境:Hadoop集群 600臺
軟件環境:Hadoop2.5.2+Hive1.2.1+MR+Oracle10g
項目描述:
運營商骨干網上采集現網流量流向信息,根據這些原始信息檢測賬號是否存在異常,如果多個終端使用同一個寬帶賬號,超過一定閾值則觸發報警機制,例如閾值為5時,同一個賬號同時連接的終端數量不能超過該值,如果超過則報警。
4.Spark階段項目
項目名稱:京東網上商城數據統計分析平臺
數據體量:5000W+/日
硬件環境:centos-6.5-x86 集群:spark standalone(Master-1,Worker-3)
軟件環境:hadoop,spark,hive,mysql,idea,navicat,kafka,flume
每日處理的數據量:3GB
項目描述:
基于京東網上商城數據統計分析平臺--該項目采用了目前大數據領域非常流行的技術——Spark。本項目使用了Spark技術生態棧中常用的三個技術框架,Spark Core、Spark SQL和Spark Streaming,進行離線計算和實時計算業務模塊的開發。實現了包括:統計和分析UV、PV、登錄、留存、熱門商品離線統計、廣告流量實時統計3個業務模塊。
【教學優勢】
來自清華、北大、北航的實戰講師和上市企業的骨灰級大咖授課
根據企業需求設計課程,并且定期更新,引入新技術
配備了價值上百萬的開發服務器,可實時感受分布式開發和云計算等
16小時老師全程陪伴,不怕學不會
線上線下結合,可以無縫銜接
學員管理以人為本,不忘初心,致力培養眼界高、技術牛、做人好的職場員工。
【師資介紹】
北航軟件工程碩士,16年軟件架構開發經驗,曾就職于東軟、DNS等知名企業,新東方、達內前教學總監,精通JAVAEE、JAVA框架、Oracle數據庫,知名企業培訓大咖。
畢業于北京大學,12年以上JAVA企業項目架構和開發經驗。曾在二炮科技處、UPS科技、日本UCI科技等多家知名企業擔任過項目經理和研發總監