大數(shù)據(jù)核心技術(shù)有哪些？

大數(shù)據(jù)技術(shù)的體系龐大且復(fù)雜，基礎(chǔ)的技術(shù)包含數(shù)據(jù)的采集、數(shù)據(jù)預(yù)處理、分布式存儲(chǔ)、數(shù)據(jù)庫、數(shù)據(jù)倉庫、機(jī)器學(xué)習(xí)、并行計(jì)算、可視化等。

創(chuàng)新互聯(lián)是一家專業(yè)提供瑪沁企業(yè)網(wǎng)站建設(shè),專注與做網(wǎng)站、網(wǎng)站設(shè)計(jì)、HTML5建站、小程序制作等業(yè)務(wù)。10年已為瑪沁眾多企業(yè)、政府機(jī)構(gòu)等服務(wù)。創(chuàng)新互聯(lián)專業(yè)網(wǎng)站建設(shè)公司優(yōu)惠進(jìn)行中。

1、數(shù)據(jù)采集與預(yù)處理：FlumeNG實(shí)時(shí)日志收集系統(tǒng)，支持在日志系統(tǒng)中定制各類數(shù)據(jù)發(fā)送方，用于收集數(shù)據(jù)；Zookeeper是一個(gè)分布式的，開放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，提供數(shù)據(jù)同步服務(wù)。

2、數(shù)據(jù)存儲(chǔ)：Hadoop作為一個(gè)開源的框架，專為離線和大規(guī)模數(shù)據(jù)分析而設(shè)計(jì)，HDFS作為其核心的存儲(chǔ)引擎，已被廣泛用于數(shù)據(jù)存儲(chǔ)。HBase，是一個(gè)分布式的、面向列的開源數(shù)據(jù)庫，可以認(rèn)為是hdfs的封裝，本質(zhì)是數(shù)據(jù)存儲(chǔ)、NoSQL數(shù)據(jù)庫。

3、數(shù)據(jù)清洗：MapReduce作為Hadoop的查詢引擎，用于大規(guī)模數(shù)據(jù)集的并行計(jì)算。

4、數(shù)據(jù)查詢分析：Hive的核心工作就是把SQL語句翻譯成MR程序，可以將結(jié)構(gòu)化的數(shù)據(jù)映射為一張數(shù)據(jù)庫表，并提供HQL(HiveSQL)查詢功能。Spark啟用了內(nèi)存分布數(shù)據(jù)集，除了能夠提供交互式查詢外，它還可以優(yōu)化迭代工作負(fù)載。

5、數(shù)據(jù)可視化：對(duì)接一些BI平臺(tái)，將分析得到的數(shù)據(jù)進(jìn)行可視化，用于指導(dǎo)決策服務(wù)。

分布式數(shù)據(jù)庫和nosql區(qū)別嗎

互聯(lián)網(wǎng)公司常用的基本集中在以下幾種，每種只舉一個(gè)比較常見或者應(yīng)用比較成功的例子吧。

1. In-Memory KV Store : Redis

in memory key-value store，同時(shí)提供了更加豐富的數(shù)據(jù)結(jié)構(gòu)和運(yùn)算的能力，成功用法是替代memcached，通過checkpoint和commit log提供了快速的宕機(jī)恢復(fù)，同時(shí)支持replication提供讀可擴(kuò)展和高可用。

2. Disk-Based KV Store: Leveldb

真正基于磁盤的key-value storage, 模型單一簡單，數(shù)據(jù)量不受限于內(nèi)存大小，數(shù)據(jù)落盤高可靠，Google的幾位大神出品的精品，LSM模型天然寫優(yōu)化，順序?qū)懕P的方式對(duì)于新硬件ssd再適合不過了，不足是僅提供了一個(gè)庫，需要自己封裝server端。

3. Document Store: Mongodb

分布式nosql，具備了區(qū)別mysql的最大亮點(diǎn)：可擴(kuò)展性。mongodb 最新引人的莫過于提供了sql接口，是目前nosql里最像mysql的，只是沒有ACID的特性，發(fā)展很快，支持了索引等特性，上手容易，對(duì)于數(shù)據(jù)量遠(yuǎn)超內(nèi)存限制的場景來說，還需要慎重。

4. Column Table Store: HBase

這個(gè)富二代似乎不用贅述了，最大的優(yōu)勢(shì)是開源，對(duì)于普通的scan和基于行的get等基本查詢，性能完全不是問題，只是只提供裸的api,易用性上是短板，可擴(kuò)展性方面是最強(qiáng)的，其次坐上了Hadoop的快車，社區(qū)發(fā)展很快，各種基于其上的開源產(chǎn)品不少，來解決諸如join、聚集運(yùn)算等復(fù)雜查詢。

大數(shù)據(jù)三大核心技術(shù)：拿數(shù)據(jù)、算數(shù)據(jù)、賣數(shù)據(jù)！

大數(shù)據(jù)的由來

對(duì)于“大數(shù)據(jù)”（Big data）研究機(jī)構(gòu)Gartner給出了這樣的定義。“大數(shù)據(jù)”是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力來適應(yīng)海量、高增長率和多樣化的信息資產(chǎn)。

1

麥肯錫全球研究所給出的定義是：一種規(guī)模大到在獲取、存儲(chǔ)、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫軟件工具能力范圍的數(shù)據(jù)集合，具有海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)、多樣的數(shù)據(jù)類型和價(jià)值密度低四大特征。

大數(shù)據(jù)技術(shù)的戰(zhàn)略意義不在于掌握龐大的數(shù)據(jù)信息，而在于對(duì)這些含有意義的數(shù)據(jù)進(jìn)行專業(yè)化處理。換而言之，如果把大數(shù)據(jù)比作一種產(chǎn)業(yè)，那么這種產(chǎn)業(yè)實(shí)現(xiàn)盈利的關(guān)鍵，在于提高對(duì)數(shù)據(jù)的“加工能力”，通過“加工”實(shí)現(xiàn)數(shù)據(jù)的“增值”。

從技術(shù)上看，大數(shù)據(jù)與云計(jì)算的關(guān)系就像一枚硬幣的正反面一樣密不可分。大數(shù)據(jù)必然無法用單臺(tái)的計(jì)算機(jī)進(jìn)行處理，必須采用分布式架構(gòu)。它的特色在于對(duì)海量數(shù)據(jù)進(jìn)行分布式數(shù)據(jù)挖掘。但它必須依托云計(jì)算的分布式處理、分布式數(shù)據(jù)庫和云存儲(chǔ)、虛擬化技術(shù)。

大數(shù)據(jù)需要特殊的技術(shù)，以有效地處理大量的容忍經(jīng)過時(shí)間內(nèi)的數(shù)據(jù)。適用于大數(shù)據(jù)的技術(shù)，包括大規(guī)模并行處理（MPP）數(shù)據(jù)庫、數(shù)據(jù)挖掘、分布式文件系統(tǒng)、分布式數(shù)據(jù)庫、云計(jì)算平臺(tái)、互聯(lián)網(wǎng)和可擴(kuò)展的存儲(chǔ)系統(tǒng)。

最小的基本單位是bit，按順序給出所有單位：bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。

大數(shù)據(jù)的應(yīng)用領(lǐng)域

大數(shù)據(jù)無處不在，大數(shù)據(jù)應(yīng)用于各個(gè)行業(yè)，包括金融、 汽車 、餐飲、電信、能源、體能和 娛樂 等在內(nèi)的 社會(huì) 各行各業(yè)都已經(jīng)融入了大數(shù)據(jù)的印跡。

制造業(yè)，利用工業(yè)大數(shù)據(jù)提升制造業(yè)水平，包括產(chǎn)品故障診斷與預(yù)測(cè)、分析工藝流程、改進(jìn)生產(chǎn)工藝，優(yōu)化生產(chǎn)過程能耗、工業(yè)供應(yīng)鏈分析與優(yōu)化、生產(chǎn)計(jì)劃與排程。

金融行業(yè)，大數(shù)據(jù)在高頻交易、社交情緒分析和信貸風(fēng)險(xiǎn)分析三大金融創(chuàng)新領(lǐng)域發(fā)揮重大作用。

汽車 行業(yè)，利用大數(shù)據(jù)和物聯(lián)網(wǎng)技術(shù)的無人駕駛 汽車 ，在不遠(yuǎn)的未來將走入我們的日常生活。

互聯(lián)網(wǎng)行業(yè)，借助于大數(shù)據(jù)技術(shù)，可以分析客戶行為，進(jìn)行商品推薦和針對(duì)性廣告投放。

電信行業(yè)，利用大數(shù)據(jù)技術(shù)實(shí)現(xiàn)客戶離網(wǎng)分析，及時(shí)掌握客戶離網(wǎng)傾向，出臺(tái)客戶挽留措施。

能源行業(yè)，隨著智能電網(wǎng)的發(fā)展，電力公司可以掌握海量的用戶用電信息，利用大數(shù)據(jù)技術(shù)分析用戶用電模式，可以改進(jìn)電網(wǎng)運(yùn)行，合理設(shè)計(jì)電力需求響應(yīng)系統(tǒng)，確保電網(wǎng)運(yùn)行安全。

物流行業(yè)，利用大數(shù)據(jù)優(yōu)化物流網(wǎng)絡(luò)，提高物流效率，降低物流成本。

城市管理，可以利用大數(shù)據(jù)實(shí)現(xiàn)智能交通、環(huán)保監(jiān)測(cè)、城市規(guī)劃和智能安防。

體育 娛樂 ，大數(shù)據(jù)可以幫助我們訓(xùn)練球隊(duì)，決定投拍哪種 題財(cái)?shù)?影視作品，以及預(yù)測(cè)比賽結(jié)果。

安全領(lǐng)域，政府可以利用大數(shù)據(jù)技術(shù)構(gòu)建起強(qiáng)大的國家安全保障體系，企業(yè)可以利用大數(shù)據(jù)抵御網(wǎng)絡(luò)攻擊，警察可以借助大數(shù)據(jù)來預(yù)防犯罪。

個(gè)人生活， 大數(shù)據(jù)還可以應(yīng)用于個(gè)人生活，利用與每個(gè)人相關(guān)聯(lián)的“個(gè)人大數(shù)據(jù)”，分析個(gè)人生活行為習(xí)慣，為其提供更加周到的個(gè)性化服務(wù)。

大數(shù)據(jù)的價(jià)值，遠(yuǎn)遠(yuǎn)不止于此，大數(shù)據(jù)對(duì)各行各業(yè)的滲透，大大推動(dòng)了 社會(huì) 生產(chǎn)和生活，未來必將產(chǎn)生重大而深遠(yuǎn)的影響。

大數(shù)據(jù)方面核心技術(shù)有哪些？

大數(shù)據(jù)技術(shù)的體系龐大且復(fù)雜，基礎(chǔ)的技術(shù)包含數(shù)據(jù)的采集、數(shù)據(jù)預(yù)處理、分布式存儲(chǔ)、NoSQL數(shù)據(jù)庫、數(shù)據(jù)倉庫、機(jī)器學(xué)習(xí)、并行計(jì)算、可視化等各種技術(shù)范疇和不同的技術(shù)層面。首先給出一個(gè)通用化的大數(shù)據(jù)處理框架，主要分為下面幾個(gè)方面：數(shù)據(jù)采集與預(yù)處理、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)清洗、數(shù)據(jù)查詢分析和數(shù)據(jù)可視化。

數(shù)據(jù)采集與預(yù)處理

對(duì)于各種來源的數(shù)據(jù)，包括移動(dòng)互聯(lián)網(wǎng)數(shù)據(jù)、社交網(wǎng)絡(luò)的數(shù)據(jù)等，這些結(jié)構(gòu)化和非結(jié)構(gòu)化的海量數(shù)據(jù)是零散的，也就是所謂的數(shù)據(jù)孤島，此時(shí)的這些數(shù)據(jù)并沒有什么意義，數(shù)據(jù)采集就是將這些數(shù)據(jù)寫入數(shù)據(jù)倉庫中，把零散的數(shù)據(jù)整合在一起，對(duì)這些數(shù)據(jù)綜合起來進(jìn)行分析。數(shù)據(jù)采集包括文件日志的采集、數(shù)據(jù)庫日志的采集、關(guān)系型數(shù)據(jù)庫的接入和應(yīng)用程序的接入等。在數(shù)據(jù)量比較小的時(shí)候，可以寫個(gè)定時(shí)的腳本將日志寫入存儲(chǔ)系統(tǒng)，但隨著數(shù)據(jù)量的增長，這些方法無法提供數(shù)據(jù)安全保障，并且運(yùn)維困難，需要更強(qiáng)壯的解決方案。

Flume NG

Flume NG作為實(shí)時(shí)日志收集系統(tǒng)，支持在日志系統(tǒng)中定制各類數(shù)據(jù)發(fā)送方，用于收集數(shù)據(jù)，同時(shí)，對(duì)數(shù)據(jù)進(jìn)行簡單處理，并寫到各種數(shù)據(jù)接收方(比如文本，HDFS，Hbase等)。Flume NG采用的是三層架構(gòu)：Agent層，Collector層和Store層，每一層均可水平拓展。其中Agent包含Source，Channel和 Sink，source用來消費(fèi)(收集)數(shù)據(jù)源到channel組件中，channel作為中間臨時(shí)存儲(chǔ)，保存所有source的組件信息，sink從channel中讀取數(shù)據(jù)，讀取成功之后會(huì)刪除channel中的信息。

NDC

Logstash

Logstash是開源的服務(wù)器端數(shù)據(jù)處理管道，能夠同時(shí)從多個(gè)來源采集數(shù)據(jù)、轉(zhuǎn)換數(shù)據(jù)，然后將數(shù)據(jù)發(fā)送到您最喜歡的 “存儲(chǔ)庫” 中。一般常用的存儲(chǔ)庫是Elasticsearch。Logstash 支持各種輸入選擇，可以在同一時(shí)間從眾多常用的數(shù)據(jù)來源捕捉事件，能夠以連續(xù)的流式傳輸方式，輕松地從您的日志、指標(biāo)、Web 應(yīng)用、數(shù)據(jù)存儲(chǔ)以及各種 AWS 服務(wù)采集數(shù)據(jù)。

Sqoop

Sqoop，用來將關(guān)系型數(shù)據(jù)庫和Hadoop中的數(shù)據(jù)進(jìn)行相互轉(zhuǎn)移的工具，可以將一個(gè)關(guān)系型數(shù)據(jù)庫(例如Mysql、Oracle)中的數(shù)據(jù)導(dǎo)入到Hadoop(例如HDFS、Hive、Hbase)中，也可以將Hadoop(例如HDFS、Hive、Hbase)中的數(shù)據(jù)導(dǎo)入到關(guān)系型數(shù)據(jù)庫(例如Mysql、Oracle)中。Sqoop 啟用了一個(gè) MapReduce 作業(yè)(極其容錯(cuò)的分布式并行計(jì)算)來執(zhí)行任務(wù)。Sqoop 的另一大優(yōu)勢(shì)是其傳輸大量結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)的過程是完全自動(dòng)化的。

流式計(jì)算

流式計(jì)算是行業(yè)研究的一個(gè)熱點(diǎn)，流式計(jì)算對(duì)多個(gè)高吞吐量的數(shù)據(jù)源進(jìn)行實(shí)時(shí)的清洗、聚合和分析，可以對(duì)存在于社交網(wǎng)站、新聞等的數(shù)據(jù)信息流進(jìn)行快速的處理并反饋，目前大數(shù)據(jù)流分析工具有很多，比如開源的strom，spark streaming等。

Strom集群結(jié)構(gòu)是有一個(gè)主節(jié)點(diǎn)(nimbus)和多個(gè)工作節(jié)點(diǎn)(supervisor)組成的主從結(jié)構(gòu)，主節(jié)點(diǎn)通過配置靜態(tài)指定或者在運(yùn)行時(shí)動(dòng)態(tài)選舉，nimbus與supervisor都是Storm提供的后臺(tái)守護(hù)進(jìn)程，之間的通信是結(jié)合Zookeeper的狀態(tài)變更通知和監(jiān)控通知來處理。nimbus進(jìn)程的主要職責(zé)是管理、協(xié)調(diào)和監(jiān)控集群上運(yùn)行的topology(包括topology的發(fā)布、任務(wù)指派、事件處理時(shí)重新指派任務(wù)等)。supervisor進(jìn)程等待nimbus分配任務(wù)后生成并監(jiān)控worker(jvm進(jìn)程)執(zhí)行任務(wù)。supervisor與worker運(yùn)行在不同的jvm上，如果由supervisor啟動(dòng)的某個(gè)worker因?yàn)殄e(cuò)誤異常退出(或被kill掉)，supervisor會(huì)嘗試重新生成新的worker進(jìn)程。

Zookeeper

Zookeeper是一個(gè)分布式的，開放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，提供數(shù)據(jù)同步服務(wù)。它的作用主要有配置管理、名字服務(wù)、分布式鎖和集群管理。配置管理指的是在一個(gè)地方修改了配置，那么對(duì)這個(gè)地方的配置感興趣的所有的都可以獲得變更，省去了手動(dòng)拷貝配置的繁瑣，還很好的保證了數(shù)據(jù)的可靠和一致性，同時(shí)它可以通過名字來獲取資源或者服務(wù)的地址等信息，可以監(jiān)控集群中機(jī)器的變化，實(shí)現(xiàn)了類似于心跳機(jī)制的功能。

數(shù)據(jù)存儲(chǔ)

Hadoop作為一個(gè)開源的框架，專為離線和大規(guī)模數(shù)據(jù)分析而設(shè)計(jì)，HDFS作為其核心的存儲(chǔ)引擎，已被廣泛用于數(shù)據(jù)存儲(chǔ)。

HBase

HBase，是一個(gè)分布式的、面向列的開源數(shù)據(jù)庫，可以認(rèn)為是hdfs的封裝，本質(zhì)是數(shù)據(jù)存儲(chǔ)、NoSQL數(shù)據(jù)庫。HBase是一種Key/Value系統(tǒng)，部署在hdfs上，克服了hdfs在隨機(jī)讀寫這個(gè)方面的缺點(diǎn)，與hadoop一樣，Hbase目標(biāo)主要依靠橫向擴(kuò)展，通過不斷增加廉價(jià)的商用服務(wù)器，來增加計(jì)算和存儲(chǔ)能力。

Phoenix

Phoenix，相當(dāng)于一個(gè)Java中間件，幫助開發(fā)工程師能夠像使用JDBC訪問關(guān)系型數(shù)據(jù)庫一樣訪問NoSQL數(shù)據(jù)庫HBase。

Yarn

Yarn是一種Hadoop資源管理器，可為上層應(yīng)用提供統(tǒng)一的資源管理和調(diào)度，它的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來了巨大好處。Yarn由下面的幾大組件構(gòu)成：一個(gè)全局的資源管理器ResourceManager、ResourceManager的每個(gè)節(jié)點(diǎn)代理NodeManager、表示每個(gè)應(yīng)用的Application以及每一個(gè)ApplicationMaster擁有多個(gè)Container在NodeManager上運(yùn)行。

Mesos

Mesos是一款開源的集群管理軟件，支持Hadoop、ElasticSearch、Spark、Storm 和Kafka等應(yīng)用架構(gòu)。

Redis

Redis是一種速度非常快的非關(guān)系數(shù)據(jù)庫，可以存儲(chǔ)鍵與5種不同類型的值之間的映射，可以將存儲(chǔ)在內(nèi)存的鍵值對(duì)數(shù)據(jù)持久化到硬盤中，使用復(fù)制特性來擴(kuò)展性能，還可以使用客戶端分片來擴(kuò)展寫性能。

Atlas

Atlas是一個(gè)位于應(yīng)用程序與MySQL之間的中間件。在后端DB看來，Atlas相當(dāng)于連接它的客戶端，在前端應(yīng)用看來，Atlas相當(dāng)于一個(gè)DB。Atlas作為服務(wù)端與應(yīng)用程序通訊，它實(shí)現(xiàn)了MySQL的客戶端和服務(wù)端協(xié)議，同時(shí)作為客戶端與MySQL通訊。它對(duì)應(yīng)用程序屏蔽了DB的細(xì)節(jié)，同時(shí)為了降低MySQL負(fù)擔(dān)，它還維護(hù)了連接池。Atlas啟動(dòng)后會(huì)創(chuàng)建多個(gè)線程，其中一個(gè)為主線程，其余為工作線程。主線程負(fù)責(zé)監(jiān)聽所有的客戶端連接請(qǐng)求，工作線程只監(jiān)聽主線程的命令請(qǐng)求。

Kudu

Kudu是圍繞Hadoop生態(tài)圈建立的存儲(chǔ)引擎，Kudu擁有和Hadoop生態(tài)圈共同的設(shè)計(jì)理念，它運(yùn)行在普通的服務(wù)器上、可分布式規(guī)模化部署、并且滿足工業(yè)界的高可用要求。其設(shè)計(jì)理念為fast analytics on fast data。作為一個(gè)開源的存儲(chǔ)引擎，可以同時(shí)提供低延遲的隨機(jī)讀寫和高效的數(shù)據(jù)分析能力。Kudu不但提供了行級(jí)的插入、更新、刪除API，同時(shí)也提供了接近Parquet性能的批量掃描操作。使用同一份存儲(chǔ)，既可以進(jìn)行隨機(jī)讀寫，也可以滿足數(shù)據(jù)分析的要求。Kudu的應(yīng)用場景很廣泛，比如可以進(jìn)行實(shí)時(shí)的數(shù)據(jù)分析，用于數(shù)據(jù)可能會(huì)存在變化的時(shí)序數(shù)據(jù)應(yīng)用等。

在數(shù)據(jù)存儲(chǔ)過程中，涉及到的數(shù)據(jù)表都是成千上百列，包含各種復(fù)雜的Query，推薦使用列式存儲(chǔ)方法，比如parquent,ORC等對(duì)數(shù)據(jù)進(jìn)行壓縮。Parquet 可以支持靈活的壓縮選項(xiàng)，顯著減少磁盤上的存儲(chǔ)。

數(shù)據(jù)清洗

MapReduce作為Hadoop的查詢引擎，用于大規(guī)模數(shù)據(jù)集的并行計(jì)算，”Map(映射)”和”Reduce(歸約)”，是它的主要思想。它極大的方便了編程人員在不會(huì)分布式并行編程的情況下，將自己的程序運(yùn)行在分布式系統(tǒng)中。

隨著業(yè)務(wù)數(shù)據(jù)量的增多，需要進(jìn)行訓(xùn)練和清洗的數(shù)據(jù)會(huì)變得越來越復(fù)雜，這個(gè)時(shí)候就需要任務(wù)調(diào)度系統(tǒng)，比如oozie或者azkaban，對(duì)關(guān)鍵任務(wù)進(jìn)行調(diào)度和監(jiān)控。

Oozie

Oozie是用于Hadoop平臺(tái)的一種工作流調(diào)度引擎，提供了RESTful API接口來接受用戶的提交請(qǐng)求(提交工作流作業(yè))，當(dāng)提交了workflow后，由工作流引擎負(fù)責(zé)workflow的執(zhí)行以及狀態(tài)的轉(zhuǎn)換。用戶在HDFS上部署好作業(yè)(MR作業(yè))，然后向Oozie提交Workflow，Oozie以異步方式將作業(yè)(MR作業(yè))提交給Hadoop。這也是為什么當(dāng)調(diào)用Oozie 的RESTful接口提交作業(yè)之后能立即返回一個(gè)JobId的原因，用戶程序不必等待作業(yè)執(zhí)行完成(因?yàn)橛行┐笞鳂I(yè)可能會(huì)執(zhí)行很久(幾個(gè)小時(shí)甚至幾天))。Oozie在后臺(tái)以異步方式，再將workflow對(duì)應(yīng)的Action提交給hadoop執(zhí)行。

Azkaban

Azkaban也是一種工作流的控制引擎，可以用來解決有多個(gè)hadoop或者spark等離線計(jì)算任務(wù)之間的依賴關(guān)系問題。azkaban主要是由三部分構(gòu)成：Relational Database，Azkaban Web Server和Azkaban Executor Server。azkaban將大多數(shù)的狀態(tài)信息都保存在MySQL中，Azkaban Web Server提供了Web UI，是azkaban主要的管理者，包括project的管理、認(rèn)證、調(diào)度以及對(duì)工作流執(zhí)行過程中的監(jiān)控等;Azkaban Executor Server用來調(diào)度工作流和任務(wù)，記錄工作流或者任務(wù)的日志。

流計(jì)算任務(wù)的處理平臺(tái)Sloth，是網(wǎng)易首個(gè)自研流計(jì)算平臺(tái)，旨在解決公司內(nèi)各產(chǎn)品日益增長的流計(jì)算需求。作為一個(gè)計(jì)算服務(wù)平臺(tái)，其特點(diǎn)是易用、實(shí)時(shí)、可靠，為用戶節(jié)省技術(shù)方面(開發(fā)、運(yùn)維)的投入，幫助用戶專注于解決產(chǎn)品本身的流計(jì)算需求

數(shù)據(jù)查詢分析

Hive

Hive的核心工作就是把SQL語句翻譯成MR程序，可以將結(jié)構(gòu)化的數(shù)據(jù)映射為一張數(shù)據(jù)庫表，并提供 HQL(Hive SQL)查詢功能。Hive本身不存儲(chǔ)和計(jì)算數(shù)據(jù)，它完全依賴于HDFS和MapReduce。可以將Hive理解為一個(gè)客戶端工具，將SQL操作轉(zhuǎn)換為相應(yīng)的MapReduce jobs，然后在hadoop上面運(yùn)行。Hive支持標(biāo)準(zhǔn)的SQL語法，免去了用戶編寫MapReduce程序的過程，它的出現(xiàn)可以讓那些精通SQL技能、但是不熟悉MapReduce 、編程能力較弱與不擅長Java語言的用戶能夠在HDFS大規(guī)模數(shù)據(jù)集上很方便地利用SQL 語言查詢、匯總、分析數(shù)據(jù)。

Hive是為大數(shù)據(jù)批量處理而生的，Hive的出現(xiàn)解決了傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(MySql、Oracle)在大數(shù)據(jù)處理上的瓶頸 。Hive 將執(zhí)行計(jì)劃分成map-shuffle-reduce-map-shuffle-reduce…的模型。如果一個(gè)Query會(huì)被編譯成多輪MapReduce，則會(huì)有更多的寫中間結(jié)果。由于MapReduce執(zhí)行框架本身的特點(diǎn)，過多的中間過程會(huì)增加整個(gè)Query的執(zhí)行時(shí)間。在Hive的運(yùn)行過程中，用戶只需要?jiǎng)?chuàng)建表，導(dǎo)入數(shù)據(jù)，編寫SQL分析語句即可。剩下的過程由Hive框架自動(dòng)的完成。

Impala

Impala是對(duì)Hive的一個(gè)補(bǔ)充，可以實(shí)現(xiàn)高效的SQL查詢。使用Impala來實(shí)現(xiàn)SQL on Hadoop，用來進(jìn)行大數(shù)據(jù)實(shí)時(shí)查詢分析。通過熟悉的傳統(tǒng)關(guān)系型數(shù)據(jù)庫的SQL風(fēng)格來操作大數(shù)據(jù)，同時(shí)數(shù)據(jù)也是可以存儲(chǔ)到HDFS和HBase中的。Impala沒有再使用緩慢的Hive+MapReduce批處理，而是通過使用與商用并行關(guān)系數(shù)據(jù)庫中類似的分布式查詢引擎(由Query Planner、Query Coordinator和Query Exec Engine三部分組成)，可以直接從HDFS或HBase中用SELECT、JOIN和統(tǒng)計(jì)函數(shù)查詢數(shù)據(jù)，從而大大降低了延遲。Impala將整個(gè)查詢分成一執(zhí)行計(jì)劃樹，而不是一連串的MapReduce任務(wù)，相比Hive沒了MapReduce啟動(dòng)時(shí)間。

Hive 適合于長時(shí)間的批處理查詢分析，而Impala適合于實(shí)時(shí)交互式SQL查詢，Impala給數(shù)據(jù)人員提供了快速實(shí)驗(yàn)，驗(yàn)證想法的大數(shù)據(jù)分析工具，可以先使用Hive進(jìn)行數(shù)據(jù)轉(zhuǎn)換處理，之后使用Impala在Hive處理好后的數(shù)據(jù)集上進(jìn)行快速的數(shù)據(jù)分析。總的來說：Impala把執(zhí)行計(jì)劃表現(xiàn)為一棵完整的執(zhí)行計(jì)劃樹，可以更自然地分發(fā)執(zhí)行計(jì)劃到各個(gè)Impalad執(zhí)行查詢，而不用像Hive那樣把它組合成管道型的map-reduce模式，以此保證Impala有更好的并發(fā)性和避免不必要的中間sort與shuffle。但是Impala不支持UDF，能處理的問題有一定的限制。

Spark

Spark擁有Hadoop MapReduce所具有的特點(diǎn)，它將Job中間輸出結(jié)果保存在內(nèi)存中，從而不需要讀取HDFS。Spark 啟用了內(nèi)存分布數(shù)據(jù)集，除了能夠提供交互式查詢外，它還可以優(yōu)化迭代工作負(fù)載。Spark 是在 Scala 語言中實(shí)現(xiàn)的，它將 Scala 用作其應(yīng)用程序框架。與 Hadoop 不同，Spark 和 Scala 能夠緊密集成，其中的 Scala 可以像操作本地集合對(duì)象一樣輕松地操作分布式數(shù)據(jù)集。

Nutch

Nutch 是一個(gè)開源Java 實(shí)現(xiàn)的搜索引擎。它提供了我們運(yùn)行自己的搜索引擎所需的全部工具，包括全文搜索和Web爬蟲。

Solr

Solr用Java編寫、運(yùn)行在Servlet容器(如Apache Tomcat或Jetty)的一個(gè)獨(dú)立的企業(yè)級(jí)搜索應(yīng)用的全文搜索服務(wù)器。它對(duì)外提供類似于Web-service的API接口，用戶可以通過http請(qǐng)求，向搜索引擎服務(wù)器提交一定格式的XML文件，生成索引;也可以通過Http Get操作提出查找請(qǐng)求，并得到XML格式的返回結(jié)果。

Elasticsearch

Elasticsearch是一個(gè)開源的全文搜索引擎，基于Lucene的搜索服務(wù)器，可以快速的儲(chǔ)存、搜索和分析海量的數(shù)據(jù)。設(shè)計(jì)用于云計(jì)算中，能夠達(dá)到實(shí)時(shí)搜索，穩(wěn)定，可靠，快速，安裝使用方便。

還涉及到一些機(jī)器學(xué)習(xí)語言，比如，Mahout主要目標(biāo)是創(chuàng)建一些可伸縮的機(jī)器學(xué)習(xí)算法，供開發(fā)人員在Apache的許可下免費(fèi)使用;深度學(xué)習(xí)框架Caffe以及使用數(shù)據(jù)流圖進(jìn)行數(shù)值計(jì)算的開源軟件庫TensorFlow等，常用的機(jī)器學(xué)習(xí)算法比如，貝葉斯、邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)、協(xié)同過濾等。

數(shù)據(jù)可視化

對(duì)接一些BI平臺(tái)，將分析得到的數(shù)據(jù)進(jìn)行可視化，用于指導(dǎo)決策服務(wù)。主流的BI平臺(tái)比如，國外的敏捷BI Tableau、Qlikview、PowrerBI等，國內(nèi)的SmallBI和新興的網(wǎng)易有數(shù)等。

在上面的每一個(gè)階段，保障數(shù)據(jù)的安全是不可忽視的問題。

基于網(wǎng)絡(luò)身份認(rèn)證的協(xié)議Kerberos，用來在非安全網(wǎng)絡(luò)中，對(duì)個(gè)人通信以安全的手段進(jìn)行身份認(rèn)證，它允許某實(shí)體在非安全網(wǎng)絡(luò)環(huán)境下通信，向另一個(gè)實(shí)體以一種安全的方式證明自己的身份。

控制權(quán)限的ranger是一個(gè)Hadoop集群權(quán)限框架，提供操作、監(jiān)控、管理復(fù)雜的數(shù)據(jù)權(quán)限，它提供一個(gè)集中的管理機(jī)制，管理基于yarn的Hadoop生態(tài)圈的所有數(shù)據(jù)權(quán)限。可以對(duì)Hadoop生態(tài)的組件如Hive，Hbase進(jìn)行細(xì)粒度的數(shù)據(jù)訪問控制。通過操作Ranger控制臺(tái)，管理員可以輕松的通過配置策略來控制用戶訪問HDFS文件夾、HDFS文件、數(shù)據(jù)庫、表、字段權(quán)限。這些策略可以為不同的用戶和組來設(shè)置，同時(shí)權(quán)限可與hadoop無縫對(duì)接。

簡單說有三大核心技術(shù)：拿數(shù)據(jù)，算數(shù)據(jù)，賣數(shù)據(jù)。

大數(shù)據(jù)應(yīng)用程序最佳選擇：是SQL還是NoSQL

執(zhí)行大數(shù)據(jù)[注]項(xiàng)目的企業(yè)面對(duì)的關(guān)鍵決策之一是使用哪個(gè)數(shù)據(jù)庫，SQL還是NoSQL?SQL有著驕人的業(yè)績，龐大的安裝基礎(chǔ);而NoSQL正在獲得可觀的收益，且有很多支持者。我們來看看兩位專家對(duì)這個(gè)問題的看法。

專家

·VoltDB公司首席技術(shù)官Ryan Betts表示，SQL已經(jīng)贏得了大型企業(yè)的廣泛部署，大數(shù)據(jù)是它可以支持的另一個(gè)領(lǐng)域。

·Couchbase公司首席執(zhí)行官Bob Wiederhold表示，NoSQL是可行的選擇，并且從很多方面來看，它是大數(shù)據(jù)的最佳選擇，特別是涉及到可擴(kuò)展性時(shí)。

SQL經(jīng)歷時(shí)間的考驗(yàn)，并仍然在蓬勃發(fā)展

VoltDB公司首席技術(shù)官Ryan Betts

結(jié)構(gòu)化查詢語言(SQL)是經(jīng)過時(shí)間考驗(yàn)的勝利者，它已經(jīng)主宰了幾十年，目前大數(shù)據(jù)公司和組織(例如谷歌、Facebook、Cloudera和Apache)正在積極投資于SQL。

在成為主導(dǎo)技術(shù)(例如SQL)后，有時(shí)候我們很容易忘記其優(yōu)越性。SQL的獨(dú)特優(yōu)勢(shì)包括：

1. SQL能夠加強(qiáng)與數(shù)據(jù)的交互，并允許對(duì)單個(gè)數(shù)據(jù)庫設(shè)計(jì)提出問題。這是很關(guān)鍵的特征，因?yàn)闊o法交互的數(shù)據(jù)基本上是沒用的，并且，增強(qiáng)的交互性能夠帶來新的見解、新的問題和更有意義的未來交互。

2. SQL是標(biāo)準(zhǔn)化的，使用戶能夠跨系統(tǒng)運(yùn)用他們的知識(shí)，并對(duì)第三方附件和工具提供支持。

3. SQL能夠擴(kuò)展，并且是多功能和經(jīng)過時(shí)間驗(yàn)證的，這能夠解決從快寫為主導(dǎo)的傳輸?shù)綊呙杳芗蜕钊敕治龅葐栴}。

4. SQL對(duì)數(shù)據(jù)呈現(xiàn)和存儲(chǔ)采用正交形式，一些SQL系統(tǒng)支持JSON和其他結(jié)構(gòu)化對(duì)象格式，比NoSQL具有更好的性能和更多功能。

雖然NoSQL的出現(xiàn)帶來了一些影響，但SQL仍然主導(dǎo)著市場，并在大數(shù)據(jù)領(lǐng)域贏得了很多投資和廣泛部署。

NoSQL的說法很含糊，對(duì)于本次討論，我借用Rick Cattell對(duì)NoSQL的定義，即提供簡單操作(例如密鑰/數(shù)值存儲(chǔ))或簡單記錄和索引，并專注于這些簡單操作的橫向可擴(kuò)展性的系統(tǒng)。

很顯然，現(xiàn)在很多新的數(shù)據(jù)庫并不是都一樣，認(rèn)識(shí)每種數(shù)據(jù)庫背后的原理以及潛在問題是成功的關(guān)鍵。NoSQL的主要特點(diǎn)使其更適合于特定的問題。例如，圖形數(shù)據(jù)庫更適合于數(shù)據(jù)通過關(guān)系組織的情況，而專門的文本搜索系統(tǒng)更適合于需要實(shí)時(shí)搜索的情況。

在這里，讓我們看看SQL系統(tǒng)的主要優(yōu)勢(shì)和差異化功能：

* SQL可實(shí)現(xiàn)交互性。 SQL是一種聲明性查詢語言。用戶說出他們想要什么(例如，顯示過去五年三月份期間頂級(jí)客戶的地理位置)，數(shù)據(jù)庫內(nèi)部就會(huì)構(gòu)件算法并提取請(qǐng)求的結(jié)果。相比之下，NoSQL編程創(chuàng)新MapReduce是一種程序性查詢技術(shù)。在用戶提出請(qǐng)求時(shí)，MapReduce要求用戶不僅說出自己想要什么，而且要求他們陳述如何產(chǎn)生答案。

這聽起來像一個(gè)無趣的技術(shù)差異，但這很關(guān)鍵，原因在于：首先，聲明性SQL查詢更容易通過圖形化工具以及點(diǎn)擊報(bào)告構(gòu)建器來構(gòu)建。這讓分析師、操作員、管理者和其他不具備軟件編程能力的員工進(jìn)行數(shù)據(jù)庫查詢;其次，數(shù)據(jù)庫引擎可以利用內(nèi)部信息來選擇最有效的算法。改變數(shù)據(jù)庫的物理布局或數(shù)據(jù)庫，最佳算法仍然能夠計(jì)算出來。而在程序性系統(tǒng)中，編程人員需要重新訪問和重新編程算法，這是非常昂貴且容易出錯(cuò)的過程。

市場理解這個(gè)關(guān)鍵區(qū)別。在2010年，谷歌宣布部署SQL來補(bǔ)充MapReduce，主要受內(nèi)部用戶需求所驅(qū)動(dòng)。最近，F(xiàn)acebook發(fā)布了Presto(一種SQL部署)來查詢其PB級(jí)HDFS集群。根據(jù)Facebook表示：“隨著我們的倉庫增長到PB級(jí)，以及我們的需求變化，我們清楚地意識(shí)到，我們需要一個(gè)提供低延時(shí)查詢的互動(dòng)系統(tǒng)。”此外，Cloudera也正在構(gòu)建Impala—另一個(gè)基于HDFS的SQL部署。

* SQL是標(biāo)準(zhǔn)化的。 雖然供應(yīng)商有時(shí)候會(huì)添加自己的語言到SQL界面，但SQL的核心是標(biāo)準(zhǔn)化的，還有其他規(guī)格(例如ODBC和JDBC)提供廣泛可用的穩(wěn)定界面到SQL存儲(chǔ)。這帶來了一個(gè)管理和操作工具生態(tài)系統(tǒng)，可以在SQL系統(tǒng)之上設(shè)計(jì)、監(jiān)控、檢查、探索和構(gòu)建應(yīng)用程序。

SQL用戶和程序員可用跨多個(gè)后端系統(tǒng)重復(fù)使用其API和UI知識(shí)，減少了應(yīng)用程序的開發(fā)時(shí)間。標(biāo)準(zhǔn)化還允許聲明性第三方提取、轉(zhuǎn)換、加載(ETL)工具，使企業(yè)可以在數(shù)據(jù)庫之間以及跨系統(tǒng)傳輸數(shù)據(jù)。

* SQL可擴(kuò)展。 認(rèn)為SQL必須犧牲以獲得可擴(kuò)展性的看法，完全是錯(cuò)誤的。如前所述，F(xiàn)acebook創(chuàng)建了一個(gè)SQL界面來查詢PB級(jí)數(shù)據(jù)。SQL能夠非常有效地運(yùn)行極快的ACID傳輸。SQL對(duì)數(shù)據(jù)存儲(chǔ)和索引提供的抽象[注]化允許跨各種問題和數(shù)據(jù)集大小的一致使用，讓SQL可以跨集群復(fù)制數(shù)據(jù)存儲(chǔ)有效地運(yùn)行。使用SQL作為界面獨(dú)立于構(gòu)建云、規(guī)模或HA系統(tǒng)，SQL中并沒有什么在阻止和限制容錯(cuò)、高可用性和復(fù)制。事實(shí)上，所有現(xiàn)代SQL系統(tǒng)支持云友好型橫向可擴(kuò)展性、復(fù)制和容錯(cuò)性。

* SQL支持JSON。 幾年前，很多SQL系統(tǒng)增加了XML文檔支持。現(xiàn)在，隨著JSON成為一種流行的數(shù)據(jù)交換格式，SQL供應(yīng)商也紛紛加入了JSON型的支持。基于現(xiàn)在靈活的編程過程和web基礎(chǔ)設(shè)施的正常運(yùn)行時(shí)間要求，我們很需要結(jié)構(gòu)化數(shù)據(jù)類型的支持。Oracle 12c、PostgreSQL 9.2、VoltDB和其他支持JSON的數(shù)據(jù)庫，通常具有優(yōu)于“原生”JSON的性能。

SQL將繼續(xù)贏得市場份額，并會(huì)繼續(xù)看到新的投資和部署。NoSQL數(shù)據(jù)庫提供專有查詢語言或簡單的鍵值語義，而沒有更深層次的技術(shù)差異化。現(xiàn)代SQL系統(tǒng)提供可擴(kuò)展性的同時(shí)，還支持更豐富的查詢語義，并有龐大的用戶安裝基礎(chǔ)，廣泛的生態(tài)系統(tǒng)整合和深度企業(yè)部署。

NoSQL更適合大數(shù)據(jù)應(yīng)用程序

Couchbase公司首席執(zhí)行官Bob Wiederhold

NoSQL越來越多地被認(rèn)為是關(guān)系型數(shù)據(jù)庫的可行替代品，特別是對(duì)于大數(shù)據(jù)應(yīng)用程序。此外，無模式數(shù)據(jù)模型通常更適合于現(xiàn)在捕捉和處理的數(shù)據(jù)種類和類型。

當(dāng)我們談?wù)揘oSQL領(lǐng)域的大數(shù)據(jù)時(shí)，我們指的是從操作數(shù)據(jù)庫讀取和寫入。不要將操作數(shù)據(jù)庫與分析數(shù)據(jù)庫混淆，這通常會(huì)查看大量數(shù)據(jù)，并從這些數(shù)據(jù)獲取可視性。

雖然操作數(shù)據(jù)庫的大數(shù)據(jù)看起來不具有可分析性，但操作數(shù)據(jù)庫通常會(huì)存儲(chǔ)超大量用戶的大型數(shù)據(jù)集，這些用戶經(jīng)常需要訪問數(shù)據(jù)來實(shí)時(shí)執(zhí)行交易。這種數(shù)據(jù)庫的操作規(guī)模也解釋了NoSQL的關(guān)鍵特性，也就是為什么NoSQL是大數(shù)據(jù)應(yīng)用程序的關(guān)鍵的原因。

NoSQL是可擴(kuò)展性的關(guān)鍵

每次技術(shù)行業(yè)經(jīng)歷硬件發(fā)展的根本性轉(zhuǎn)變時(shí)，都會(huì)出現(xiàn)一個(gè)拐點(diǎn)。在數(shù)據(jù)庫領(lǐng)域，從縱向擴(kuò)展到橫向擴(kuò)展的轉(zhuǎn)變推動(dòng)了NoSQL的發(fā)展。關(guān)系型數(shù)據(jù)庫(包括來自甲骨文和IBM的數(shù)據(jù)庫)是縱向擴(kuò)展。也就是說，它們是集中式、共享一切的技術(shù)，只能通過增加更多昂貴的硬件來擴(kuò)展。

而NoSQL數(shù)據(jù)庫是分布式橫向擴(kuò)展技術(shù)。它們使用了分布式節(jié)點(diǎn)集(稱為集群)來提供高度彈性擴(kuò)展功能，讓用戶可以添加節(jié)點(diǎn)來動(dòng)態(tài)處理負(fù)載。

分布式橫向擴(kuò)展的做法通常要比縱向做法更加便宜。商業(yè)關(guān)系型數(shù)據(jù)庫的授權(quán)費(fèi)用也讓人望而卻步，因?yàn)樗麄兊膬r(jià)格是按每臺(tái)服務(wù)器來計(jì)算。另一方面，NoSQL數(shù)據(jù)庫通常是開源技術(shù)，按照運(yùn)行的服務(wù)器集群收費(fèi)，而且價(jià)格相對(duì)便宜。

NoSQL是靈活性的關(guān)鍵

關(guān)系型數(shù)據(jù)庫和NoSQL數(shù)據(jù)模型有很大的不同。關(guān)系型模式獲取數(shù)據(jù)，并將數(shù)據(jù)分配到很多相互關(guān)聯(lián)的表中，這些表通過外鍵相互應(yīng)用。

當(dāng)用戶需要對(duì)數(shù)據(jù)集運(yùn)行查詢時(shí)，所需信息需要從多個(gè)表中收集(通常涉及數(shù)百個(gè)企業(yè)應(yīng)用程序)，并結(jié)合這些信息，再提供給應(yīng)用程序。同樣地，當(dāng)寫入數(shù)據(jù)時(shí)，需要在多個(gè)表協(xié)調(diào)和執(zhí)行寫入。當(dāng)數(shù)據(jù)相對(duì)較少，并且，數(shù)據(jù)以較慢速度流入數(shù)據(jù)庫時(shí)，關(guān)系型數(shù)據(jù)庫通常能夠捕捉和存儲(chǔ)信息。然而，現(xiàn)在的應(yīng)用程序通常需要快速寫入(和讀取)海量數(shù)據(jù)。

NoSQL數(shù)據(jù)庫采用非常不同的模式。在其核心，NoSQL數(shù)據(jù)庫其實(shí)是“NoREL”，或者說非關(guān)系型，這意味著它們沒有依賴于表以及表之間的聯(lián)系，以存儲(chǔ)和組織信息。例如，以文檔為導(dǎo)向的NoSQL數(shù)據(jù)庫獲取你想要存儲(chǔ)的數(shù)據(jù)，并采用JSON格式整合到文檔中。每個(gè)JSON文檔可以被你的應(yīng)用程序視為一個(gè)對(duì)象。JSON文檔可能會(huì)提取跨越25個(gè)表的數(shù)據(jù)，將數(shù)據(jù)集成到一個(gè)文檔中。

聚合這些信息可能會(huì)導(dǎo)致信息重復(fù)，但由于存儲(chǔ)已不再是一個(gè)成本問題，數(shù)據(jù)模型靈活性、發(fā)布所產(chǎn)生文檔的簡便性以及讀取和寫入性能提高，讓這成為不錯(cuò)的選擇。

NoSQL是大數(shù)據(jù)應(yīng)用程序的關(guān)鍵

通過第三方(包括社交媒體網(wǎng)站)，數(shù)據(jù)正變得越來越容易捕捉和訪問。這些數(shù)據(jù)包括：個(gè)人用戶信息、地理位置數(shù)據(jù)、用戶生產(chǎn)的內(nèi)容、機(jī)器記錄數(shù)據(jù)和傳感器產(chǎn)生的數(shù)據(jù)。企業(yè)還可以依賴于大數(shù)據(jù)來推動(dòng)其關(guān)鍵任務(wù)型應(yīng)用程序。同時(shí)，企業(yè)正在轉(zhuǎn)向到NoSQL數(shù)據(jù)庫，因?yàn)檫@種數(shù)據(jù)庫非常適合現(xiàn)在新型的數(shù)據(jù)類型。

開發(fā)人員想要一個(gè)靈活的數(shù)據(jù)庫，可以很容易適應(yīng)新的數(shù)據(jù)類型，并且，不會(huì)受第三方數(shù)據(jù)供應(yīng)商的內(nèi)容結(jié)構(gòu)變化的影響。大多數(shù)新數(shù)據(jù)是非結(jié)構(gòu)化和半結(jié)構(gòu)化，因此，開發(fā)人員也需要能夠有效存儲(chǔ)這些數(shù)據(jù)的數(shù)據(jù)庫。然而，關(guān)系型數(shù)據(jù)庫采用的嚴(yán)格定義的基于模式的做法讓其不可能快速整合新數(shù)據(jù)類型，并且很不適合于非結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)。

總體來說，隨著web和移動(dòng)應(yīng)用程序的增加、新的趨勢(shì)、網(wǎng)上消費(fèi)者行為的轉(zhuǎn)變以及新的數(shù)據(jù)類型的出現(xiàn)，行業(yè)需要能夠提供可擴(kuò)展的靈活的數(shù)據(jù)庫技術(shù)來管理和訪問數(shù)據(jù)。NoSQL技術(shù)是有效滿足這些需求的唯一可行解決方案。

大數(shù)據(jù)技術(shù)有哪些？

隨著大數(shù)據(jù)分析市場迅速擴(kuò)展，哪些技術(shù)是最有需求和最有增長潛力的呢？在Forrester Research的一份最新研究報(bào)告中，評(píng)估了22種技術(shù)在整個(gè)數(shù)據(jù)生命周期中的成熟度和軌跡。這些技術(shù)都對(duì)大數(shù)據(jù)的實(shí)時(shí)、預(yù)測(cè)和綜合洞察有著巨大的貢獻(xiàn)。

1. 預(yù)測(cè)分析技術(shù)

這也是大數(shù)據(jù)的主要功能之一。預(yù)測(cè)分析允許公司通過分析大數(shù)據(jù)源來發(fā)現(xiàn)、評(píng)估、優(yōu)化和部署預(yù)測(cè)模型，從而提高業(yè)務(wù)性能或降低風(fēng)險(xiǎn)。同時(shí)，大數(shù)據(jù)的預(yù)測(cè)分析也與我們的生活息息相關(guān)。淘寶會(huì)預(yù)測(cè)你每次購物可能還想買什么，愛奇藝正在預(yù)測(cè)你可能想看什么，百合網(wǎng)和其他約會(huì)網(wǎng)站甚至試圖預(yù)測(cè)你會(huì)愛上誰……

2. NoSQL數(shù)據(jù)庫

NoSQL，Not Only SQL，意思是“不僅僅是SQL”，泛指非關(guān)系型數(shù)據(jù)庫。NoSQL數(shù)據(jù)庫提供了比關(guān)系數(shù)據(jù)庫更靈活、可伸縮和更便宜的替代方案，打破了傳統(tǒng)數(shù)據(jù)庫市場一統(tǒng)江山的格局。并且，NoSQL數(shù)據(jù)庫能夠更好地處理大數(shù)據(jù)應(yīng)用的需求。常見的NoSQL數(shù)據(jù)庫有HBase、Redis、MongoDB、Couchbase、LevelDB等。

3. 搜索和知識(shí)發(fā)現(xiàn)

支持來自于多種數(shù)據(jù)源(如文件系統(tǒng)、數(shù)據(jù)庫、流、api和其他平臺(tái)和應(yīng)用程序)中的大型非結(jié)構(gòu)化和結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)庫中自助提取信息的工具和技術(shù)。如，數(shù)據(jù)挖掘技術(shù)和各種大數(shù)據(jù)平臺(tái)。

4. 大數(shù)據(jù)流計(jì)算引擎

能夠過濾、聚合、豐富和分析來自多個(gè)完全不同的活動(dòng)數(shù)據(jù)源的數(shù)據(jù)的高吞吐量的框架，可以采用任何數(shù)據(jù)格式。現(xiàn)今流行的流式計(jì)算引擎有Spark Streaming和Flink。

5. 內(nèi)存數(shù)據(jù)結(jié)構(gòu)

通過在分布式計(jì)算機(jī)系統(tǒng)中動(dòng)態(tài)隨機(jī)訪問內(nèi)存(DRAM)、閃存或SSD上分布數(shù)據(jù)，提供低延遲的訪問和處理大量數(shù)據(jù)。

6. 分布式文件存儲(chǔ)

為了保證文件的可靠性和存取性能，數(shù)據(jù)通常以副本的方式存儲(chǔ)在多個(gè)節(jié)點(diǎn)上的計(jì)算機(jī)網(wǎng)絡(luò)。常見的分布式文件系統(tǒng)有GFS、HDFS、Lustre 、Ceph等。

7. 數(shù)據(jù)虛擬化

數(shù)據(jù)虛擬化是一種數(shù)據(jù)管理方法，它允許應(yīng)用程序檢索和操作數(shù)據(jù)，而不需要關(guān)心有關(guān)數(shù)據(jù)的技術(shù)細(xì)節(jié)，比如數(shù)據(jù)在源文件中是何種格式，或者數(shù)據(jù)存儲(chǔ)的物理位置，并且可以提供單個(gè)客戶用戶視圖。

8. 數(shù)據(jù)集成

用于跨解決方案進(jìn)行數(shù)據(jù)編排的工具，如Amazon Elastic MapReduce (EMR)、Apache Hive、Apache Pig、Apache Spark、MapReduce、Couchbase、Hadoop和MongoDB等。

9. 數(shù)據(jù)準(zhǔn)備

減輕采購、成形、清理和共享各種雜亂數(shù)據(jù)集的負(fù)擔(dān)的軟件，以加速數(shù)據(jù)對(duì)分析的有用性。

10. 數(shù)據(jù)質(zhì)量

使用分布式數(shù)據(jù)存儲(chǔ)和數(shù)據(jù)庫上的并行操作，對(duì)大型高速數(shù)據(jù)集進(jìn)行數(shù)據(jù)清理和充實(shí)的產(chǎn)品。

當(dāng)前題目：大數(shù)據(jù)分布式nosql,大數(shù)據(jù) 分布式
當(dāng)前地址：http://chinadenli.net/article17/dsggddj.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供服務(wù)器托管、域名注冊(cè)、動(dòng)態(tài)網(wǎng)站、品牌網(wǎng)站制作、響應(yīng)式網(wǎng)站、微信小程序

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)