云計(jì)算與海量數(shù)據(jù)處理技術(shù)

課程背景：
云計(jì)算提供了一種對(duì)資源“按需索取服務(wù)”的能力，確保了使用時(shí)間與需要時(shí)間的完全一致，從而建立了一種分布式、高效率、低成本的IT商業(yè)模式。正是這些特點(diǎn)，使云計(jì)算成為IT發(fā)展的潮流與趨勢(shì)。為解決廣大系統(tǒng)設(shè)計(jì)人員深入研究與開發(fā)云計(jì)算系統(tǒng)的需要，培訓(xùn)中心特舉辦“云計(jì)算與海量數(shù)據(jù)處理技術(shù)”培訓(xùn)班，具體事宜通知如下：

培訓(xùn)對(duì)象
1，系統(tǒng)架構(gòu)師、系統(tǒng)分析師、高級(jí)程序員、資深開發(fā)人員。
2，牽涉到海量數(shù)據(jù)處理的機(jī)構(gòu)數(shù)據(jù)中心運(yùn)行、規(guī)劃、設(shè)計(jì)負(fù)責(zé)人。
3，云服務(wù)運(yùn)營(yíng)服務(wù)提供商規(guī)劃負(fù)責(zé)人。
4，高校、科研院所牽涉到大數(shù)據(jù)與分布式數(shù)據(jù)處理的項(xiàng)目負(fù)責(zé)人。

學(xué)員基礎(chǔ)
1，對(duì)IT系統(tǒng)設(shè)計(jì)有一定的理論與實(shí)踐經(jīng)驗(yàn)。
2，數(shù)據(jù)倉庫與大數(shù)據(jù)處理有一定的基礎(chǔ)知識(shí)。

師資
由業(yè)界知名云計(jì)算專家親自授課：
楊老師   主要研究網(wǎng)絡(luò)信息分析以及云計(jì)算相關(guān)技術(shù)，長(zhǎng)期從事通信網(wǎng)管系統(tǒng)、網(wǎng)絡(luò)信息處理、商務(wù)智能(BI)以及電信決策支持系統(tǒng)的研究開發(fā)工作，主持和參與了多個(gè)國(guó)家和省部級(jí)基金項(xiàng)目，具有豐富的工程實(shí)踐及軟件研發(fā)經(jīng)驗(yàn)。
雷老師   國(guó)內(nèi)知名企業(yè)云平臺(tái)技術(shù)負(fù)責(zé)人，中國(guó)云親身實(shí)踐者。

培訓(xùn)要點(diǎn)
今天，隨著IT規(guī)模越來越大，數(shù)據(jù)規(guī)模呈幾何級(jí)數(shù)增長(zhǎng)，已經(jīng)超出了傳統(tǒng)技術(shù)方法所能解決的范疇。為此，人們把目光轉(zhuǎn)向了剛剛興起的云計(jì)算，希望通過云計(jì)算來實(shí)施海量數(shù)據(jù)處理解決方案，實(shí)現(xiàn)以更小的成本來處理更大規(guī)模數(shù)據(jù)的目標(biāo)，并成為目前云計(jì)算應(yīng)用所面對(duì)的極大挑戰(zhàn)。本課程基本思想如下：
1，目前，“云計(jì)算”已經(jīng)不是一個(gè)剛剛流行的時(shí)髦概念了，在一些傳統(tǒng)IT方法顯得無能為力的場(chǎng)合，云計(jì)算正在開始大展拳腳，表現(xiàn)了強(qiáng)大的解決問題的能力，海量數(shù)據(jù)存儲(chǔ)與處理正是屬于這種場(chǎng)合。我們?nèi)绾卧谠朴?jì)算分布式環(huán)境下正確設(shè)計(jì)大數(shù)據(jù)量數(shù)據(jù)模型？如何在設(shè)計(jì)中解決資源、效率、安全性、可靠性等一系列極難平衡的問題？如何通過云計(jì)算幫助我們解決在傳統(tǒng)IT技術(shù)中看似解決不了的敏感問題？這些都是我們?cè)谠朴?jì)算架構(gòu)設(shè)計(jì)中需要深入研究的鍵問題。
2，理解問題最好的方法是分析成功案例，本課程分別從多個(gè)角度分析在面對(duì)海量數(shù)據(jù)處理的困難時(shí)，不同的應(yīng)用體系是如何解決問題并獲得成功的。研究這些已有的體系不是目的，而是希望學(xué)員能夠通過學(xué)習(xí)這些解決問題的方法和思路，通過歸納整理深入理解，再根據(jù)自己所面對(duì)的領(lǐng)域特征，形成解決具體實(shí)際問題的方案。這也是讓云計(jì)算在海量數(shù)據(jù)處理領(lǐng)域真正發(fā)揮作用的有效途徑。
3，云計(jì)算是一種服務(wù)，在云計(jì)算應(yīng)用架構(gòu)設(shè)計(jì)中，就必須考慮作為服務(wù)與普通的產(chǎn)品設(shè)計(jì)有哪些不同？需要考慮的產(chǎn)品的服務(wù)特征有哪些？如何搭建面向不同層次、合適的服務(wù)平臺(tái)？在這個(gè)過程中，我們需要考慮哪些問題？有哪些成功的案例？有些什么解決方案？
4，云計(jì)算應(yīng)用最重要的問題是安全問題。安全不是一個(gè)后期需要解決的獨(dú)立問題，而是在前期就需要投入巨大精力來考慮的產(chǎn)品策略?？梢哉f，安全性與可用性是云計(jì)算能否順利實(shí)施與應(yīng)用的關(guān)鍵點(diǎn)，也是云計(jì)算架構(gòu)設(shè)計(jì)的關(guān)鍵因素。我們應(yīng)該如何考慮安全問題？如何解決諸如數(shù)據(jù)安全、網(wǎng)絡(luò)安全、主機(jī)安全、數(shù)據(jù)管理以及災(zāi)難恢復(fù)等一系列問題？如何制定合適的安全性與可用性策略？在實(shí)踐中有什么經(jīng)驗(yàn)和教訓(xùn)？
5，為了把傳統(tǒng)數(shù)據(jù)中心改造為基于云計(jì)算的服務(wù)系統(tǒng)，虛擬化是一個(gè)重要手段。我們必須深入研究虛擬化技術(shù)是如何實(shí)現(xiàn)的。虛擬化技術(shù)有哪幾個(gè)層面的問題？如何正確應(yīng)用虛擬化技術(shù)來實(shí)現(xiàn)把基礎(chǔ)設(shè)施向服務(wù)轉(zhuǎn)型？各種虛擬化技術(shù)有些什么優(yōu)點(diǎn)？有哪些陷阱？如何規(guī)劃技術(shù)解決方案？如何正確進(jìn)行云計(jì)算體系結(jié)構(gòu)設(shè)計(jì)？
本課程不是一個(gè)泛泛的理論性、概念性的介紹課程，而是針對(duì)問題討論解決方案的深入課程。教師對(duì)于上述領(lǐng)域有深入的理論研究與實(shí)踐經(jīng)驗(yàn)，在課程中將會(huì)針對(duì)這些問題與學(xué)員一起進(jìn)行研究，在關(guān)鍵點(diǎn)上還會(huì)搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)踐研究，以加深對(duì)于這些解決方案的理解。通過本課程學(xué)習(xí)，希望推動(dòng)國(guó)內(nèi)云計(jì)算項(xiàng)目開發(fā)上升到一個(gè)新水平。

培訓(xùn)內(nèi)容
第一講 云計(jì)算的概念與現(xiàn)狀
  1）云計(jì)算的概念
  2）云計(jì)算發(fā)展現(xiàn)狀
  3）云計(jì)算實(shí)現(xiàn)機(jī)制
  4）云計(jì)算的發(fā)展環(huán)境
  5）云計(jì)算的優(yōu)勢(shì)
第二講 從Google云計(jì)算體系，理解海量數(shù)據(jù)處理的方法
  1）如何構(gòu)建海量存儲(chǔ)文件系統(tǒng)？
      GFS系統(tǒng)架構(gòu)
      GFS容錯(cuò)機(jī)制
      GFS系統(tǒng)管理技術(shù)
      MapReduce產(chǎn)生背景
      MapReduce編程模型
      MapReduce實(shí)現(xiàn)機(jī)制
      MapReduce案例分析
  2）如何提供鎖服務(wù)解決分布式數(shù)據(jù)一致性問題？
      Chubby的設(shè)計(jì)思路
      Chubby中的Paxos算法
      Chubby文件系統(tǒng)
  3）如何建立規(guī)模龐大的高性能表結(jié)構(gòu)？
      BigTable設(shè)計(jì)目標(biāo)
      BigTable系統(tǒng)架構(gòu)
      BigTable服務(wù)器
      BigTable性能優(yōu)化
  4）如何建立高可用性和高可擴(kuò)展性的數(shù)據(jù)系統(tǒng)？
      Megastore設(shè)計(jì)目標(biāo)
      Megastore數(shù)據(jù)模型
      Megastore事務(wù)及并發(fā)控制 
      Megastore基本架構(gòu)
      Dapper監(jiān)控系統(tǒng)
      Dapper關(guān)鍵性技術(shù)
      Dapper工具
第三講 從Hadoop云計(jì)算項(xiàng)目，進(jìn)一步研究云數(shù)據(jù)處理方法
  1）HDFS：高可靠性處理機(jī)制及應(yīng)用
      Hadoop項(xiàng)目簡(jiǎn)介
      HDFS體系結(jié)構(gòu)
      HDFS關(guān)鍵運(yùn)行機(jī)制
      Hadoop vs Google
      Hadoop API
      Hadoop環(huán)境搭建
  2）HBASE：龐大、極其稀疏的可擴(kuò)展性數(shù)據(jù)模型
      Hbase簡(jiǎn)介
      HBase的運(yùn)行機(jī)制
      HBase與HDFS
      HBase的對(duì)外接口
      ZooKeeper的數(shù)據(jù)模型
      ZooKeeper的讀寫機(jī)制
      ZooKeeper的使用方法
第四講 從Windows Azure，理解平臺(tái)即服務(wù)的本質(zhì)
  1）微軟云計(jì)算平臺(tái)
  2）微軟云操作系統(tǒng)Windows Azure
  3）微軟云關(guān)系數(shù)據(jù)庫SQL Azure
  4）Azure AppFabric
  5）Azure Marketplace
第五講 從Amazon云計(jì)算，討論如何提供云服務(wù)
  1）Dynamo基礎(chǔ)存儲(chǔ)架構(gòu)
  2）彈性計(jì)算云EC2
  3）簡(jiǎn)單存儲(chǔ)服務(wù)S3
  4）簡(jiǎn)單隊(duì)列服務(wù)SQS 
  5）簡(jiǎn)單數(shù)據(jù)庫服務(wù)Simple DB
  6）關(guān)系數(shù)據(jù)庫服務(wù)RDS
  7）內(nèi)容推送服務(wù)CloudFront
第六講 實(shí)施云計(jì)算的關(guān)鍵點(diǎn)：安全策略
  1）云計(jì)算安全是一個(gè)必須前期重視的策略
  2）云計(jì)算的特征與安全挑戰(zhàn)
  3）云計(jì)算的安全體系與關(guān)鍵技術(shù)
  4）基礎(chǔ)架構(gòu)云安全框架
  5）云計(jì)算安全平臺(tái)
第七講 當(dāng)前數(shù)據(jù)中心如何向云計(jì)算環(huán)境轉(zhuǎn)變？
  1）VMware云產(chǎn)品
  2）云管理平臺(tái)vCenter
  3）vCloud Service Director
  4）VMware的網(wǎng)絡(luò)和存儲(chǔ)虛擬化
  5）主流商業(yè)云計(jì)算解決方案比較
  6）主流開源云計(jì)算系統(tǒng)比較 
  7）國(guó)內(nèi)代表性云計(jì)算平臺(tái)比較 
第八講 基礎(chǔ)設(shè)施即服務(wù)（IaaS）關(guān)鍵實(shí)現(xiàn)技術(shù)
  1）IaaS技術(shù)體系概述
  2）服務(wù)器虛擬化技術(shù)
      CPU虛擬化
      內(nèi)存虛擬化
      I/O虛擬化
  3）存儲(chǔ)虛擬化技術(shù)
      存儲(chǔ)系統(tǒng)概述
      存儲(chǔ)設(shè)備層的存儲(chǔ)虛擬化
      塊聚合層的存儲(chǔ)虛擬化
      文件/記錄層的存儲(chǔ)虛擬化
  4）主機(jī)網(wǎng)絡(luò)虛擬化
第九講 軟件即服務(wù)（SaaS）關(guān)鍵實(shí)現(xiàn)技術(shù)
  1）SaaS技術(shù)概述
  2）呈現(xiàn)層技術(shù)綜述
  3）調(diào)度層技術(shù)
      基于DNS的調(diào)度
      基于虛擬IP的調(diào)度
      基于鏈路聚合的調(diào)度
      基于應(yīng)用的調(diào)度
      調(diào)度策略
  4）業(yè)務(wù)層
  5）數(shù)據(jù)層
  6）用戶管理和配置管理
  7）用戶體驗(yàn)的設(shè)計(jì)
  8）課程總結(jié)
   
培訓(xùn)目標(biāo)
1，深入理解通過云計(jì)算實(shí)現(xiàn)海量數(shù)據(jù)處理的思想、方法與實(shí)踐。
2，理解安全性和可用性設(shè)計(jì)的問題、方法與實(shí)踐。
3，掌握把傳統(tǒng)數(shù)據(jù)中心改造成云計(jì)算中心的技術(shù)與方法。
4，掌握虛擬化技術(shù)的核心技術(shù)方法以及應(yīng)用特征。