目前哪些NoSQL數(shù)據(jù)庫應用廣泛，各有什么特點

特點：

成都創(chuàng)新互聯(lián)專注于企業(yè)成都全網(wǎng)營銷、網(wǎng)站重做改版、株洲網(wǎng)站定制設計、自適應品牌網(wǎng)站建設、H5場景定制、商城網(wǎng)站建設、集團公司官網(wǎng)建設、成都外貿網(wǎng)站制作、高端網(wǎng)站制作、響應式網(wǎng)頁設計等建站業(yè)務，價格優(yōu)惠性價比高，為株洲等各大城市提供網(wǎng)站開發(fā)制作服務。

它們可以處理超大量的數(shù)據(jù)。

它們運行在便宜的PC服務器集群上。

PC集群擴充起來非常方便并且成本很低，避免了“sharding”操作的復雜性和成本。

它們擊碎了性能瓶頸。

NoSQL的支持者稱，通過NoSQL架構可以省去將Web或Java應用和數(shù)據(jù)轉換成SQL友好格式的時間，執(zhí)行速度變得更快。

“SQL并非適用于所有的程序代碼，” 對于那些繁重的重復操作的數(shù)據(jù)，SQL值得花錢。但是當數(shù)據(jù)庫結構非常簡單時，SQL可能沒有太大用處。

沒有過多的操作。

雖然NoSQL的支持者也承認關系數(shù)據(jù)庫提供了無可比擬的功能集合，而且在數(shù)據(jù)完整性上也發(fā)揮絕對穩(wěn)定，他們同時也表示，企業(yè)的具體需求可能沒有那么多。

Bootstrap支持

因為NoSQL項目都是開源的，因此它們缺乏供應商提供的正式支持。這一點它們與大多數(shù)開源項目一樣，不得不從社區(qū)中尋求支持。

優(yōu)點：

易擴展

NoSQL數(shù)據(jù)庫種類繁多，但是一個共同的特點都是去掉關系數(shù)據(jù)庫的關系型特性。數(shù)據(jù)之間無關系，這樣就非常容易擴展。也無形之間，在架構的層面上帶來了可擴展的能力。

大數(shù)據(jù)量，高性能

NoSQL數(shù)據(jù)庫都具有非常高的讀寫性能，尤其在大數(shù)據(jù)量下，同樣表現(xiàn)優(yōu)秀。這得益于它的無關系性，數(shù)據(jù)庫的結構簡單。一般MySQL使用 Query Cache，每次表的更新Cache就失效，是一種大粒度的Cache，在針對web2.0的交互頻繁的應用，Cache性能不高。而NoSQL的 Cache是記錄級的，是一種細粒度的Cache，所以NoSQL在這個層面上來說就要性能高很多了。

靈活的數(shù)據(jù)模型

NoSQL無需事先為要存儲的數(shù)據(jù)建立字段，隨時可以存儲自定義的數(shù)據(jù)格式。而在關系數(shù)據(jù)庫里，增刪字段是一件非常麻煩的事情。如果是非常大數(shù)據(jù)量的表，增加字段簡直就是一個噩夢。這點在大數(shù)據(jù)量的web2.0時代尤其明顯。

高可用

NoSQL在不太影響性能的情況，就可以方便的實現(xiàn)高可用的架構。比如Cassandra，HBase模型，通過復制模型也能實現(xiàn)高可用。

主要應用：

Apache HBase

這個大數(shù)據(jù)管理平臺建立在谷歌強大的BigTable管理引擎基礎上。作為具有開源、Java編碼、分布式多個優(yōu)勢的數(shù)據(jù)庫，Hbase最初被設計應用于Hadoop平臺，而這一強大的數(shù)據(jù)管理工具，也被Facebook采用，用于管理消息平臺的龐大數(shù)據(jù)。

Apache Storm

用于處理高速、大型數(shù)據(jù)流的分布式實時計算系統(tǒng)。Storm為Apache Hadoop添加了可靠的實時數(shù)據(jù)處理功能，同時還增加了低延遲的儀表板、安全警報，改進了原有的操作方式，幫助企業(yè)更有效率地捕獲商業(yè)機會、發(fā)展新業(yè)務。

Apache Spark

該技術采用內存計算，從多迭代批量處理出發(fā)，允許將數(shù)據(jù)載入內存做反復查詢，此外還融合數(shù)據(jù)倉庫、流處理和圖計算等多種計算范式，Spark用Scala語言實現(xiàn)，構建在HDFS上，能與Hadoop很好的結合，而且運行速度比MapReduce快100倍。

Apache Hadoop

該技術迅速成為了大數(shù)據(jù)管理標準之一。當它被用來管理大型數(shù)據(jù)集時，對于復雜的分布式應用，Hadoop體現(xiàn)出了非常好的性能，平臺的靈活性使它可以運行在商用硬件系統(tǒng)，它還可以輕松地集成結構化、半結構化和甚至非結構化數(shù)據(jù)集。

Apache Drill

你有多大的數(shù)據(jù)集？其實無論你有多大的數(shù)據(jù)集，Drill都能輕松應對。通過支持HBase、Cassandra和MongoDB，Drill建立了交互式分析平臺，允許大規(guī)模數(shù)據(jù)吞吐，而且能很快得出結果。

Apache Sqoop

也許你的數(shù)據(jù)現(xiàn)在還被鎖定于舊系統(tǒng)中，Sqoop可以幫你解決這個問題。這一平臺采用并發(fā)連接，可以將數(shù)據(jù)從關系數(shù)據(jù)庫系統(tǒng)方便地轉移到Hadoop中，可以自定義數(shù)據(jù)類型以及元數(shù)據(jù)傳播的映射。事實上，你還可以將數(shù)據(jù)（如新的數(shù)據(jù)）導入到HDFS、Hive和Hbase中。

Apache Giraph

這是功能強大的圖形處理平臺，具有很好可擴展性和可用性。該技術已經(jīng)被Facebook采用，Giraph可以運行在Hadoop環(huán)境中，可以將它直接部署到現(xiàn)有的Hadoop系統(tǒng)中。通過這種方式，你可以得到強大的分布式作圖能力，同時還能利用上現(xiàn)有的大數(shù)據(jù)處理引擎。

Cloudera Impala

Impala模型也可以部署在你現(xiàn)有的Hadoop群集上，監(jiān)視所有的查詢。該技術和MapReduce一樣，具有強大的批處理能力，而且Impala對于實時的SQL查詢也有很好的效果，通過高效的SQL查詢，你可以很快的了解到大數(shù)據(jù)平臺上的數(shù)據(jù)。

Gephi

它可以用來對信息進行關聯(lián)和量化處理，通過為數(shù)據(jù)創(chuàng)建功能強大的可視化效果，你可以從數(shù)據(jù)中得到不一樣的洞察力。Gephi已經(jīng)支持多個圖表類型，而且可以在具有上百萬個節(jié)點的大型網(wǎng)絡上運行。Gephi具有活躍的用戶社區(qū)，Gephi還提供了大量的插件，可以和現(xiàn)有系統(tǒng)完美的集成到一起，它還可以對復雜的IT連接、分布式系統(tǒng)中各個節(jié)點、數(shù)據(jù)流等信息進行可視化分析。

MongoDB

這個堅實的平臺一直被很多組織推崇，它在大數(shù)據(jù)管理上有極好的性能。MongoDB最初是由DoubleClick公司的員工創(chuàng)建，現(xiàn)在該技術已經(jīng)被廣泛的應用于大數(shù)據(jù)管理。MongoDB是一個應用開源技術開發(fā)的NoSQL數(shù)據(jù)庫，可以用于在JSON這樣的平臺上存儲和處理數(shù)據(jù)。目前，紐約時報、Craigslist以及眾多企業(yè)都采用了MongoDB，幫助他們管理大型數(shù)據(jù)集。（Couchbase服務器也作為一個參考）。

十大頂尖公司：

Amazon Web Services

Forrester將AWS稱為“云霸主”，談到云計算領域的大數(shù)據(jù)，那就不得不提到亞馬遜。該公司的Hadoop產品被稱為EMR（Elastic Map Reduce），AWS解釋這款產品采用了Hadoop技術來提供大數(shù)據(jù)管理服務，但它不是純開源Hadoop，經(jīng)過修改后現(xiàn)在被專門用在AWS云上。

Forrester稱EMR有很好的市場前景。很多公司基于EMR為客戶提供服務，有一些公司將EMR應用于數(shù)據(jù)查詢、建模、集成和管理。而且AWS還在創(chuàng)新，F(xiàn)orrester稱未來EMR可以基于工作量的需要自動縮放調整大小。亞馬遜計劃為其產品和服務提供更強大的EMR支持，包括它的RedShift數(shù)據(jù)倉庫、新公布的Kenesis實時處理引擎以及計劃中的NoSQL數(shù)據(jù)庫和商業(yè)智能工具。不過AWS還沒有自己的Hadoop發(fā)行版。

Cloudera

Cloudera有開源Hadoop的發(fā)行版，這個發(fā)行版采用了Apache Hadoop開源項目的很多技術，不過基于這些技術的發(fā)行版也有很大的進步。Cloudera為它的Hadoop發(fā)行版開發(fā)了很多功能，包括Cloudera管理器，用于管理和監(jiān)控，以及名為Impala的SQL引擎等。Cloudera的Hadoop發(fā)行版基于開源Hadoop，但也不是純開源的產品。當Cloudera的客戶需要Hadoop不具備的某些功能時，Cloudera的工程師們就會實現(xiàn)這些功能，或者找一個擁有這項技術的合作伙伴。Forrester表示：“Cloudera的創(chuàng)新方法忠于核心Hadoop，但因為其可實現(xiàn)快速創(chuàng)新并積極滿足客戶需求，這一點使它不同于其他那些供應商。”目前，Cloudera的平臺已經(jīng)擁有200多個付費客戶，一些客戶在Cloudera的技術支持下已經(jīng)可以跨1000多個節(jié)點實現(xiàn)對PB級數(shù)據(jù)的有效管理。

Hortonworks

和Cloudera一樣，Hortonworks是一個純粹的Hadoop技術公司。與Cloudera不同的是，Hortonworks堅信開源Hadoop比任何其他供應商的Hadoop發(fā)行版都要強大。Hortonworks的目標是建立Hadoop生態(tài)圈和Hadoop用戶社區(qū)，推進開源項目的發(fā)展。Hortonworks平臺和開源Hadoop聯(lián)系緊密，公司管理人員表示這會給用戶帶來好處，因為它可以防止被供應商套牢（如果Hortonworks的客戶想要離開這個平臺，他們可以輕松轉向其他開源平臺）。這并不是說Hortonworks完全依賴開源Hadoop技術，而是因為該公司將其所有開發(fā)的成果回報給了開源社區(qū)，比如Ambari，這個工具就是由Hortonworks開發(fā)而成，用來填充集群管理項目漏洞。Hortonworks的方案已經(jīng)得到了Teradata、Microsoft、Red Hat和SAP這些供應商的支持。

IBM

當企業(yè)考慮一些大的IT項目時，很多人首先會想到IBM。IBM是Hadoop項目的主要參與者之一，F(xiàn)orrester稱IBM已有100多個Hadoop部署，它的很多客戶都有PB級的數(shù)據(jù)。IBM在網(wǎng)格計算、全球數(shù)據(jù)中心和企業(yè)大數(shù)據(jù)項目實施等眾多領域有著豐富的經(jīng)驗。“IBM計劃繼續(xù)整合SPSS分析、高性能計算、BI工具、數(shù)據(jù)管理和建模、應對高性能計算的工作負載管理等眾多技術。”

Intel

和AWS類似，英特爾不斷改進和優(yōu)化Hadoop使其運行在自己的硬件上，具體來說，就是讓Hadoop運行在其至強芯片上，幫助用戶打破Hadoop系統(tǒng)的一些限制，使軟件和硬件結合的更好，英特爾的Hadoop發(fā)行版在上述方面做得比較好。Forrester指出英特爾在最近才推出這個產品，所以公司在未來還有很多改進的可能，英特爾和微軟都被認為是Hadoop市場上的潛力股。

MapR Technologies

MapR的Hadoop發(fā)行版目前為止也許是最好的了，不過很多人可能都沒有聽說過。Forrester對Hadoop用戶的調查顯示，MapR的評級最高，其發(fā)行版在架構和數(shù)據(jù)處理能力上都獲得了最高分。MapR已將一套特殊功能融入其Hadoop發(fā)行版中。例如網(wǎng)絡文件系統(tǒng)（NFS）、災難恢復以及高可用性功能。Forrester說MapR在Hadoop市場上沒有Cloudera和Hortonworks那樣的知名度，MapR要成為一個真正的大企業(yè)，還需要加強伙伴關系和市場營銷。

Microsoft

微軟在開源軟件問題上一直很低調，但在大數(shù)據(jù)形勢下，它不得不考慮讓Windows也兼容Hadoop，它還積極投入到開源項目中，以更廣泛地推動Hadoop生態(tài)圈的發(fā)展。我們可以在微軟的公共云Windows Azure HDInsight產品中看到其成果。微軟的Hadoop服務基于Hortonworks的發(fā)行版，而且是為Azure量身定制的。

微軟也有一些其他的項目，包括名為Polybase的項目，讓Hadoop查詢實現(xiàn)了SQLServer查詢的一些功能。Forrester說：“微軟在數(shù)據(jù)庫、數(shù)據(jù)倉庫、云、OLAP、BI、電子表格（包括PowerPivot）、協(xié)作和開發(fā)工具市場上有很大優(yōu)勢，而且微軟擁有龐大的用戶群，但要在Hadoop這個領域成為行業(yè)領導者還有很遠的路要走。”

Pivotal Software

EMC和Vmware部分大數(shù)據(jù)業(yè)務分拆組合產生了Pivotal。Pivotal一直努力構建一個性能優(yōu)越的Hadoop發(fā)行版，為此，Pivotal在開源Hadoop的基礎上又添加了一些新的工具，包括一個名為HAWQ的SQL引擎以及一個專門解決大數(shù)據(jù)問題的Hadoop應用。Forrester稱Pivotal Hadoop平臺的優(yōu)勢在于它整合了Pivotal、EMC、Vmware的眾多技術，Pivotal的真正優(yōu)勢實際上等于EMC和Vmware兩大公司為其撐腰。到目前為止，Pivotal的用戶還不到100個，而且大多是中小型客戶。

Teradata

對于Teradata來說，Hadoop既是一種威脅也是一種機遇。數(shù)據(jù)管理，特別是關于SQL和關系數(shù)據(jù)庫這一領域是Teradata的專長。所以像Hadoop這樣的NoSQL平臺崛起可能會威脅到Teradata。相反，Teradata接受了Hadoop，通過與Hortonworks合作，Teradata在Hadoop平臺集成了SQL技術，這使Teradata的客戶可以在Hadoop平臺上方便地使用存儲在Teradata數(shù)據(jù)倉庫中的數(shù)據(jù)。

AMPLab

通過將數(shù)據(jù)轉變?yōu)樾畔ⅲ覀儾趴梢岳斫馐澜纾@也正是AMPLab所做的。AMPLab致力于機器學習、數(shù)據(jù)挖掘、數(shù)據(jù)庫、信息檢索、自然語言處理和語音識別等多個領域，努力改進對信息包括不透明數(shù)據(jù)集內信息的甄別技術。除了Spark，開源分布式SQL查詢引擎Shark也源于AMPLab，Shark具有極高的查詢效率，具有良好的兼容性和可擴展性。近幾年的發(fā)展使計算機科學進入到全新的時代，而AMPLab為我們設想一個運用大數(shù)據(jù)、云計算、通信等各種資源和技術靈活解決難題的方案，以應對越來越復雜的各種難題。

大數(shù)據(jù)管理與應用是做什么的？

大數(shù)據(jù)管理與應用主要是做數(shù)據(jù)的定量化分析，并能最終實現(xiàn)智能化商業(yè)決策的。

大數(shù)據(jù)管理與應用以互聯(lián)網(wǎng)+和大數(shù)據(jù)時代為背景，主要研究大數(shù)據(jù)分析理論和方法在經(jīng)濟管理中的應用以及大數(shù)據(jù)管理與治理方法。主要專業(yè)方向有：商務數(shù)據(jù)分析、商務智能、電子健康、大數(shù)據(jù)金融、數(shù)據(jù)挖掘、大數(shù)據(jù)管理與治理等。

擴展資料：

大數(shù)據(jù)管理與應用的主干課程：

微觀經(jīng)濟學、宏觀經(jīng)濟學、管理學、會計學、統(tǒng)計學、概率論與數(shù)理統(tǒng)計、Python程序設計、程序設計語言、算法與數(shù)據(jù)結構、數(shù)據(jù)庫原理與應用、離散數(shù)學 、數(shù)據(jù)挖掘、統(tǒng)計分析方法、大數(shù)據(jù)創(chuàng)新實踐、機器學習、大數(shù)據(jù)分析實訓、Hadoop基礎、數(shù)據(jù)采集與分析、Nosql數(shù)據(jù)庫、數(shù)字化運營、數(shù)據(jù)可視化、大數(shù)據(jù)商業(yè)分析、自然語言處理、互聯(lián)網(wǎng)理論與應用、計算機視覺、人工智能導論、大數(shù)據(jù)行業(yè)案例、Hbase數(shù)據(jù)庫等。

參考資料：百度百科-大數(shù)據(jù)管理與應用

大數(shù)據(jù)管理與應用學什么

大學里大數(shù)據(jù)管理與應用專業(yè)學習的課程如下

基礎必修課

思想道德修養(yǎng)與法律基礎、中國近代史綱要、形勢與政策、軍事理論、馬克思主義基本原理、高等數(shù)學、離散數(shù)學、線性代數(shù)、概率論與數(shù)理統(tǒng)計、數(shù)學分析、計算機系統(tǒng)基礎、普通物理數(shù)學與信息科學概論、大學英語、大學體育、大學物理、微觀經(jīng)濟學、宏觀經(jīng)濟學、管理學、統(tǒng)計學、程序設計語言等

選修課

人文歷史類、自然科學類、就業(yè)指導類、文學藝術類。

專業(yè)課

數(shù)據(jù)科學導論、程序設計導論、數(shù)據(jù)庫系統(tǒng)概論、并行體系結構與編程、非結構化大數(shù)據(jù)分析、數(shù)據(jù)計算智能、Python程序設計、算法與數(shù)據(jù)結構、數(shù)據(jù)庫原理與應用、數(shù)據(jù)挖掘、統(tǒng)計分析方法、大數(shù)據(jù)創(chuàng)新實踐、機器學習、Hadoop基礎、數(shù)據(jù)采集與分析、Nosql數(shù)據(jù)庫、數(shù)字化運營、數(shù)據(jù)可視化、大數(shù)據(jù)商業(yè)分析、自然語言處理、互聯(lián)網(wǎng)理論與應用、計算機視覺、人工智能導論、大數(shù)據(jù)行業(yè)案例、Hbase數(shù)據(jù)庫等

/// 什么是大數(shù)據(jù)管理與應用？///

（一句話）就是以經(jīng)濟管理和發(fā)展為目的，研究互聯(lián)網(wǎng)大數(shù)據(jù)的分析和應用，以高效處理紛繁復雜的信息的一門學科

[它主要研究的是]

1、經(jīng)濟管理和現(xiàn)代信息管理的理論知識

2、商務數(shù)據(jù)分析、商務智能、電子健康

3、大數(shù)據(jù)金融，數(shù)據(jù)挖掘、分析與管理

4、量化分析工具和商業(yè)應用軟件

5、本專業(yè)的理論前沿以及發(fā)展動態(tài)

6、信息大數(shù)據(jù)相關方針、政策與法規(guī)

大數(shù)據(jù)包括哪些？

簡單來說，從大數(shù)據(jù)的生命周期來看，無外乎四個方面：大數(shù)據(jù)采集、大數(shù)據(jù)預處理、大數(shù)據(jù)存儲、大數(shù)據(jù)分析，共同組成了大數(shù)據(jù)生命周期里最核心的技術，下面分開來說：

一、大數(shù)據(jù)采集

大數(shù)據(jù)采集，即對各種來源的結構化和非結構化海量數(shù)據(jù)，所進行的采集。

數(shù)據(jù)庫采集：流行的有Sqoop和ETL，傳統(tǒng)的關系型數(shù)據(jù)庫MySQL和Oracle 也依然充當著許多企業(yè)的數(shù)據(jù)存儲方式。當然了，目前對于開源的Kettle和Talend本身，也集成了大數(shù)據(jù)集成內容，可實現(xiàn)hdfs，hbase和主流Nosq數(shù)據(jù)庫之間的數(shù)據(jù)同步和集成。

網(wǎng)絡數(shù)據(jù)采集：一種借助網(wǎng)絡爬蟲或網(wǎng)站公開API，從網(wǎng)頁獲取非結構化或半結構化數(shù)據(jù)，并將其統(tǒng)一結構化為本地數(shù)據(jù)的數(shù)據(jù)采集方式。

文件采集：包括實時文件采集和處理技術flume、基于ELK的日志采集和增量采集等等。

二、大數(shù)據(jù)預處理

大數(shù)據(jù)預處理，指的是在進行數(shù)據(jù)分析之前，先對采集到的原始數(shù)據(jù)所進行的諸如“清洗、填補、平滑、合并、規(guī)格化、一致性檢驗”等一系列操作，旨在提高數(shù)據(jù)質量，為后期分析工作奠定基礎。數(shù)據(jù)預處理主要包括四個部分：數(shù)據(jù)清理、數(shù)據(jù)集成、數(shù)據(jù)轉換、數(shù)據(jù)規(guī)約。

數(shù)據(jù)清理：指利用ETL等清洗工具，對有遺漏數(shù)據(jù)(缺少感興趣的屬性)、噪音數(shù)據(jù)(數(shù)據(jù)中存在著錯誤、或偏離期望值的數(shù)據(jù))、不一致數(shù)據(jù)進行處理。

數(shù)據(jù)集成：是指將不同數(shù)據(jù)源中的數(shù)據(jù)，合并存放到統(tǒng)一數(shù)據(jù)庫的，存儲方法，著重解決三個問題：模式匹配、數(shù)據(jù)冗余、數(shù)據(jù)值沖突檢測與處理。

數(shù)據(jù)轉換：是指對所抽取出來的數(shù)據(jù)中存在的不一致，進行處理的過程。它同時包含了數(shù)據(jù)清洗的工作，即根據(jù)業(yè)務規(guī)則對異常數(shù)據(jù)進行清洗，以保證后續(xù)分析結果準確性。

數(shù)據(jù)規(guī)約：是指在最大限度保持數(shù)據(jù)原貌的基礎上，最大限度精簡數(shù)據(jù)量，以得到較小數(shù)據(jù)集的操作，包括：數(shù)據(jù)方聚集、維規(guī)約、數(shù)據(jù)壓縮、數(shù)值規(guī)約、概念分層等。

三、大數(shù)據(jù)存儲

大數(shù)據(jù)存儲，指用存儲器，以數(shù)據(jù)庫的形式，存儲采集到的數(shù)據(jù)的過程，包含三種典型路線：

1、基于MPP架構的新型數(shù)據(jù)庫集群

采用Shared Nothing架構，結合MPP架構的高效分布式計算模式，通過列存儲、粗粒度索引等多項大數(shù)據(jù)處理技術，重點面向行業(yè)大數(shù)據(jù)所展開的數(shù)據(jù)存儲方式。具有低成本、高性能、高擴展性等特點，在企業(yè)分析類應用領域有著廣泛的應用。

較之傳統(tǒng)數(shù)據(jù)庫，其基于MPP產品的PB級數(shù)據(jù)分析能力，有著顯著的優(yōu)越性。自然，MPP數(shù)據(jù)庫，也成為了企業(yè)新一代數(shù)據(jù)倉庫的最佳選擇。

2、基于Hadoop的技術擴展和封裝

基于Hadoop的技術擴展和封裝，是針對傳統(tǒng)關系型數(shù)據(jù)庫難以處理的數(shù)據(jù)和場景（針對非結構化數(shù)據(jù)的存儲和計算等），利用Hadoop開源優(yōu)勢及相關特性（善于處理非結構、半結構化數(shù)據(jù)、復雜的ETL流程、復雜的數(shù)據(jù)挖掘和計算模型等），衍生出相關大數(shù)據(jù)技術的過程。

伴隨著技術進步，其應用場景也將逐步擴大，目前最為典型的應用場景：通過擴展和封裝 Hadoop來實現(xiàn)對互聯(lián)網(wǎng)大數(shù)據(jù)存儲、分析的支撐，其中涉及了幾十種NoSQL技術。

3、大數(shù)據(jù)一體機

這是一種專為大數(shù)據(jù)的分析處理而設計的軟、硬件結合的產品。它由一組集成的服務器、存儲設備、操作系統(tǒng)、數(shù)據(jù)庫管理系統(tǒng)，以及為數(shù)據(jù)查詢、處理、分析而預安裝和優(yōu)化的軟件組成，具有良好的穩(wěn)定性和縱向擴展性。

四、大數(shù)據(jù)分析挖掘

從可視化分析、數(shù)據(jù)挖掘算法、預測性分析、語義引擎、數(shù)據(jù)質量管理等方面，對雜亂無章的數(shù)據(jù)，進行萃取、提煉和分析的過程。

1、可視化分析

可視化分析，指借助圖形化手段，清晰并有效傳達與溝通信息的分析手段。主要應用于海量數(shù)據(jù)關聯(lián)分析，即借助可視化數(shù)據(jù)分析平臺，對分散異構數(shù)據(jù)進行關聯(lián)分析，并做出完整分析圖表的過程。

具有簡單明了、清晰直觀、易于接受的特點。

2、數(shù)據(jù)挖掘算法

數(shù)據(jù)挖掘算法，即通過創(chuàng)建數(shù)據(jù)挖掘模型，而對數(shù)據(jù)進行試探和計算的，數(shù)據(jù)分析手段。它是大數(shù)據(jù)分析的理論核心。

數(shù)據(jù)挖掘算法多種多樣，且不同算法因基于不同的數(shù)據(jù)類型和格式，會呈現(xiàn)出不同的數(shù)據(jù)特點。但一般來講，創(chuàng)建模型的過程卻是相似的，即首先分析用戶提供的數(shù)據(jù)，然后針對特定類型的模式和趨勢進行查找，并用分析結果定義創(chuàng)建挖掘模型的最佳參數(shù)，并將這些參數(shù)應用于整個數(shù)據(jù)集，以提取可行模式和詳細統(tǒng)計信息。

3、預測性分析

預測性分析，是大數(shù)據(jù)分析最重要的應用領域之一，通過結合多種高級分析功能（特別統(tǒng)計分析、預測建模、數(shù)據(jù)挖掘、文本分析、實體分析、優(yōu)化、實時評分、機器學習等），達到預測不確定事件的目的。

幫助分用戶析結構化和非結構化數(shù)據(jù)中的趨勢、模式和關系，并運用這些指標來預測將來事件，為采取措施提供依據(jù)。

4、語義引擎

語義引擎，指通過為已有數(shù)據(jù)添加語義的操作，提高用戶互聯(lián)網(wǎng)搜索體驗。

5、數(shù)據(jù)質量管理

指對數(shù)據(jù)全生命周期的每個階段（計劃、獲取、存儲、共享、維護、應用、消亡等）中可能引發(fā)的各類數(shù)據(jù)質量問題，進行識別、度量、監(jiān)控、預警等操作，以提高數(shù)據(jù)質量的一系列管理活動。

以上是從大的方面來講，具體來說大數(shù)據(jù)的框架技術有很多，這里列舉其中一些：

文件存儲：Hadoop HDFS、Tachyon、KFS

離線計算：Hadoop MapReduce、Spark

流式、實時計算：Storm、Spark Streaming、S4、Heron

K-V、NOSQL數(shù)據(jù)庫：HBase、Redis、MongoDB

資源管理：YARN、Mesos

日志收集：Flume、Scribe、Logstash、Kibana

消息系統(tǒng)：Kafka、StormMQ、ZeroMQ、RabbitMQ

查詢分析：Hive、Impala、Pig、Presto、Phoenix、SparkSQL、Drill、Flink、Kylin、Druid

分布式協(xié)調服務：Zookeeper

集群管理與監(jiān)控：Ambari、Ganglia、Nagios、Cloudera Manager

數(shù)據(jù)挖掘、機器學習：Mahout、Spark MLLib

數(shù)據(jù)同步：Sqoop

任務調度：Oozie

······

想要學習更多關于大數(shù)據(jù)的知識可以加群和志同道合的人一起交流一下啊[ ]

大數(shù)據(jù)平臺由哪5個部分組成?簡述各個部分內容的特點

一、數(shù)據(jù)采集

ETL工具負責將分布的、異構數(shù)據(jù)源中的數(shù)據(jù)如關系數(shù)據(jù)、平面數(shù)據(jù)文件等抽取到臨時中間層后進行清洗、轉換、集成，最后加載到數(shù)據(jù)倉庫或數(shù)據(jù)集市中，成為聯(lián)機分析處理、數(shù)據(jù)挖掘的基礎。

二、數(shù)據(jù)存取

關系數(shù)據(jù)庫、NOSQL、SQL等。

三、基礎架構

云存儲、分布式文件存儲等。

四、數(shù)據(jù)處理

自然語言處理(NLP，Natural Language Processing)是研究人與計算機交互的語言問題的一門學科。處理自然語言的關鍵是要讓計算機"理解"自然語言，所以自然語言處理又叫做自然語言理解(NLU，Natural Language Understanding)，也稱為計算語言學(Computational Linguistics。一方面它是語言信息處理的一個分支，另一方面它是人工智能(AI, Artificial Intelligence)的核心課題之一。

五、統(tǒng)計分析

假設檢驗、顯著性檢驗、差異分析、相關分析、T檢驗、方差分析、卡方分析、偏相關分析、距離分析、回歸分析、簡單回歸分析、多元回歸分析、逐步回歸、回歸預測與殘差分析、嶺回歸、logistic回歸分析、曲線估計、因子分析、聚類分析、主成分分析、因子分析、快速聚類法與聚類法、判別分析、對應分析、多元對應分析(最優(yōu)尺度分析)、bootstrap技術等等。

六、數(shù)據(jù)挖掘

分類 (Classification)、估計(Estimation)、預測(Prediction)、相關性分組或關聯(lián)規(guī)則(Affinity grouping or association rules)、聚類(Clustering)、描述和可視化、Description and Visualization)、復雜數(shù)據(jù)類型挖掘(Text, Web ,圖形圖像，視頻，音頻等)。

七、模型預測

預測模型、機器學習、建模仿真。

八、結果呈現(xiàn)

云計算、標簽云、關系圖等。

名稱欄目：nosql和自然語言處理,nosql用的什么語言
文章URL：http://chinadenli.net/article25/dsedhci.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供虛擬主機、品牌網(wǎng)站設計、網(wǎng)頁設計公司、移動網(wǎng)站建設、App開發(fā)、網(wǎng)站營銷

廣告

聲明：本網(wǎng)站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經(jīng)允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)