簡答大數(shù)據(jù)安全的特征?

大數(shù)據(jù)安全面臨著許多挑戰(zhàn)，需要通過研究關(guān)鍵技術(shù)、制定安全管理策略來應(yīng)對這些挑戰(zhàn)。當(dāng)前，大數(shù)據(jù)的應(yīng)用和發(fā)展面臨著許多安全問題，具體來說有以下幾個(gè)方面。（1）大數(shù)據(jù)成為網(wǎng)絡(luò)攻擊的顯著目標(biāo)在網(wǎng)絡(luò)空間中，大數(shù)據(jù)是更容易被“發(fā)現(xiàn)”的大目標(biāo)，承載著越來越多的關(guān)注度。一方面，大數(shù)據(jù)不僅意味著海量的數(shù)據(jù)，也意味著更復(fù)雜、更敏感的數(shù)據(jù)，這些數(shù)據(jù)會吸引更多的潛在攻擊者，成為更具吸引力的目標(biāo)；另一方面，數(shù)據(jù)的大量聚集，使黑客一次成功的攻擊能夠獲得更多的數(shù)據(jù)，無形中降低了黑客的進(jìn)攻成本，增加了“收益率”。（2）大數(shù)據(jù)加大隱私泄露風(fēng)險(xiǎn)從基礎(chǔ)技術(shù)角度看，Hadoop對數(shù)據(jù)的聚合增加了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。作為一個(gè)分布式系統(tǒng)架構(gòu)，Hadoop可以用來應(yīng)對PB甚至ZB級的海量數(shù)據(jù)存儲；作為一個(gè)云化的平臺，Hadoop自身存在云計(jì)算面臨的安全風(fēng)險(xiǎn)，企業(yè)需要實(shí)施安全訪問機(jī)制和數(shù)據(jù)保護(hù)機(jī)制。同樣，大數(shù)據(jù)依托的基礎(chǔ)技術(shù)——NoSQL（非關(guān)系型數(shù)據(jù)庫）與當(dāng)前廣泛應(yīng)用的SQL（關(guān)系型數(shù)據(jù)庫）技術(shù)不同，沒有經(jīng)過長期改進(jìn)和完善，在維護(hù)數(shù)據(jù)安全方面也未設(shè)置嚴(yán)格的訪問控制和隱私管理機(jī)制。NoSQL技術(shù)還因大數(shù)據(jù)中數(shù)據(jù)來源和承載方式的多樣性，使企業(yè)很難定位和保護(hù)其中的機(jī)密信息，這是NoSQL內(nèi)在安全機(jī)制的不完善，即缺乏機(jī)密性和完整性。另外，NoSQL對來自不同系統(tǒng)、不同應(yīng)用程序及不同活動(dòng)的數(shù)據(jù)進(jìn)行關(guān)聯(lián)，也加大了隱私泄露的風(fēng)險(xiǎn)。此外，NoSQL還允許不斷對數(shù)據(jù)記錄添加屬性，這也對數(shù)據(jù)庫管理員的安全性預(yù)見能力提出了更高的要求。從核心價(jià)值角度看，大數(shù)據(jù)的技術(shù)關(guān)鍵在于數(shù)據(jù)分析和利用，但數(shù)據(jù)分析技術(shù)的發(fā)展，勢必對用戶隱私產(chǎn)生極大威脅。

愛輝網(wǎng)站制作公司哪家好，找創(chuàng)新互聯(lián)！從網(wǎng)頁設(shè)計(jì)、網(wǎng)站建設(shè)、微信開發(fā)、APP開發(fā)、成都響應(yīng)式網(wǎng)站建設(shè)等網(wǎng)站項(xiàng)目制作，到程序開發(fā)，運(yùn)營維護(hù)。創(chuàng)新互聯(lián)自2013年創(chuàng)立以來到現(xiàn)在10年的時(shí)間，我們擁有了豐富的建站經(jīng)驗(yàn)和運(yùn)維經(jīng)驗(yàn)，來保證我們的工作的順利進(jìn)行。專注于網(wǎng)站建設(shè)就選創(chuàng)新互聯(lián)。

幾種nosql的淺談

1、性能

都比較高，性能對我們來說應(yīng)該都不是瓶頸。

總體來講，TPS 方面 redis 和 memcache 差不多，要大于 mongodb。

2、操作的便利性

memcache 數(shù)據(jù)結(jié)構(gòu)單一。（key-value）

redis 豐富一些，數(shù)據(jù)操作方面，redis 更好一些，較少的網(wǎng)絡(luò) IO 次數(shù)，同時(shí)還提供 list，set，

hash 等數(shù)據(jù)結(jié)構(gòu)的存儲。

mongodb 支持豐富的數(shù)據(jù)表達(dá)，索引，最類似關(guān)系型數(shù)據(jù)庫，支持的查詢語言非常豐富。

3、內(nèi)存空間的大小和數(shù)據(jù)量的大小

redis 在 2.0 版本后增加了自己的 VM 特性，突破物理內(nèi)存的限制；可以對 key value 設(shè)置過

期時(shí)間（類似 memcache）

memcache 可以修改最大可用內(nèi)存,采用 LRU 算法。Memcached 代理軟件 magent，比如建立

10 臺 4G 的 Memcache 集群，就相當(dāng)于有了 40G。 magent -s 10.1.2.1 -s 10.1.2.2:11211 -b

10.1.2.3:14000 mongoDB 適合大數(shù)據(jù)量的存儲，依賴操作系統(tǒng) VM 做內(nèi)存管理，吃內(nèi)存也比較厲害，服務(wù)

不要和別的服務(wù)在一起。

4、可用性（單點(diǎn)問題）

對于單點(diǎn)問題，

redis，依賴客戶端來實(shí)現(xiàn)分布式讀寫；主從復(fù)制時(shí)，每次從節(jié)點(diǎn)重新連接主節(jié)點(diǎn)都要依賴整

個(gè)快照,無增量復(fù)制，因性能和效率問題，

所以單點(diǎn)問題比較復(fù)雜；不支持自動(dòng) sharding,需要依賴程序設(shè)定一致 hash 機(jī)制。

一種替代方案是，不用 redis 本身的復(fù)制機(jī)制，采用自己做主動(dòng)復(fù)制（多份存儲），或者改成

增量復(fù)制的方式（需要自己實(shí)現(xiàn)），一致性問題和性能的權(quán)衡

Memcache 本身沒有數(shù)據(jù)冗余機(jī)制，也沒必要；對于故障預(yù)防，采用依賴成熟的 hash 或者環(huán)

狀的算法，解決單點(diǎn)故障引起的抖動(dòng)問題。

mongoDB 支持 master-slave,replicaset（內(nèi)部采用 paxos 選舉算法，自動(dòng)故障恢復(fù)）,auto sharding 機(jī)制，對客戶端屏蔽了故障轉(zhuǎn)移和切分機(jī)制。

5、可靠性（持久化）

對于數(shù)據(jù)持久化和數(shù)據(jù)恢復(fù)，

redis 支持（快照、AOF）：依賴快照進(jìn)行持久化，aof 增強(qiáng)了可靠性的同時(shí)，對性能有所影

響

memcache 不支持，通常用在做緩存,提升性能；

MongoDB 從 1.8 版本開始采用 binlog 方式支持持久化的可靠性

6、數(shù)據(jù)一致性（事務(wù)支持）

Memcache 在并發(fā)場景下，用 cas 保證一致性redis 事務(wù)支持比較弱，只能保證事務(wù)中的每個(gè)操作連續(xù)執(zhí)行

mongoDB 不支持事務(wù)

7、數(shù)據(jù)分析

mongoDB 內(nèi)置了數(shù)據(jù)分析的功能(mapreduce),其他不支持

8、應(yīng)用場景

redis：數(shù)據(jù)量較小的更性能操作和運(yùn)算上

memcache：用于在動(dòng)態(tài)系統(tǒng)中減少數(shù)據(jù)庫負(fù)載，提升性能;做緩存，提高性能（適合讀多寫

少，對于數(shù)據(jù)量比較大，可以采用 sharding）

MongoDB:主要解決海量數(shù)據(jù)的訪問效率問題。

表格比較：

memcache redis 類型 內(nèi)存數(shù)據(jù)庫 內(nèi)存數(shù)據(jù)庫

數(shù)據(jù)類型 在定義 value 時(shí)就要固定數(shù)據(jù)類型 不需要

有字符串，鏈表，集 合和有序集合

虛擬內(nèi)存 不支持 支持

過期策略 支持 支持

分布式 magent master-slave，一主一從或一主多從

存儲數(shù)據(jù)安全 不支持 使用 save 存儲到 dump.rdb 中

災(zāi)難恢復(fù) 不支持 append only file(aof)用于數(shù)據(jù)恢復(fù)

性能

1、類型——memcache 和 redis 都是將數(shù)據(jù)存放在內(nèi)存，所以是內(nèi)存數(shù)據(jù)庫。當(dāng)然，memcache 也可用于緩存其他東西，例如圖片等等。

2、 數(shù)據(jù)類型——Memcache 在添加數(shù)據(jù)時(shí)就要指定數(shù)據(jù)的字節(jié)長度,而 redis 不需要。

3、 虛擬內(nèi)存——當(dāng)物理內(nèi)存用完時(shí)，可以將一些很久沒用到的 value 交換到磁盤。

4、 過期策略——memcache 在 set 時(shí)就指定，例如 set key1 0 0 8,即永不過期。Redis 可以通

過例如 expire 設(shè)定，例如 expire name 10。

5、 分布式——設(shè)定 memcache 集群，利用 magent 做一主多從;redis 可以做一主多從。都可

以一主一從。

6、 存儲數(shù)據(jù)安全——memcache 斷電就斷了，數(shù)據(jù)沒了；redis 可以定期 save 到磁盤。

7、 災(zāi)難恢復(fù)——memcache 同上，redis 丟了后可以通過 aof 恢復(fù)。

Memecache 端口 11211

yum -y install memcached

yum -y install php-pecl-memcache

/etc/init.d/memcached start memcached -d -p 11211 -u memcached -m 64 -c 1024 -P /var/run/memcached/memcached.pid

-d 啟動(dòng)一個(gè)守護(hù)進(jìn)程

-p 端口

-m 分配的內(nèi)存是 M

-c 最大運(yùn)行并發(fā)數(shù)-P memcache 的 pid

//0 壓縮（是否 MEMCACHE_COMPRESSED） 30 秒失效時(shí)間

//delete 5 是 timeout

什么是NoSQL，它有什么優(yōu)缺點(diǎn)？

NoSQL，指的是非關(guān)系型的數(shù)據(jù)庫。NoSQL有時(shí)也稱作Not Only SQL的縮寫，是對不同于傳統(tǒng)的關(guān)系型數(shù)據(jù)庫的數(shù)據(jù)庫管理系統(tǒng)的統(tǒng)稱。

NoSQL用于超大規(guī)模數(shù)據(jù)的存儲。（例如谷歌或Facebook每天為他們的用戶收集萬億比特的數(shù)據(jù)）。這些類型的數(shù)據(jù)存儲不需要固定的模式，無需多余操作就可以橫向擴(kuò)展。

NoSQL的優(yōu)點(diǎn)/缺點(diǎn)

優(yōu)點(diǎn):

- 高可擴(kuò)展性

- 分布式計(jì)算

- 低成本

- 架構(gòu)的靈活性，半結(jié)構(gòu)化數(shù)據(jù)

- 沒有復(fù)雜的關(guān)系

缺點(diǎn):

- 沒有標(biāo)準(zhǔn)化

- 有限的查詢功能（到目前為止）

- 最終一致是不直觀的程序 （BY三人行慕課）

NoSQL 會有注入問題嗎？

只要有交叉，通常而言都會有注入漏洞的。只是對于漏洞，你大可放心，應(yīng)為一般而言注入提權(quán)都是針對常用的熱門數(shù)據(jù)庫和已知漏洞進(jìn)行的，對于新興的沒有大規(guī)模使用的數(shù)據(jù)庫來說，沒有太多人花很多時(shí)間去研究，只要沒大規(guī)模傳播擴(kuò)散漏洞信息，即使是有，也比較安全的。總不可能有人就專盯你的數(shù)據(jù)庫入侵提權(quán)吧

目前哪些NoSQL數(shù)據(jù)庫應(yīng)用廣泛，各有什么特點(diǎn)

特點(diǎn)：

它們可以處理超大量的數(shù)據(jù)。

它們運(yùn)行在便宜的PC服務(wù)器集群上。

PC集群擴(kuò)充起來非常方便并且成本很低，避免了“sharding”操作的復(fù)雜性和成本。

它們擊碎了性能瓶頸。

NoSQL的支持者稱，通過NoSQL架構(gòu)可以省去將Web或Java應(yīng)用和數(shù)據(jù)轉(zhuǎn)換成SQL友好格式的時(shí)間，執(zhí)行速度變得更快。

“SQL并非適用于所有的程序代碼，” 對于那些繁重的重復(fù)操作的數(shù)據(jù)，SQL值得花錢。但是當(dāng)數(shù)據(jù)庫結(jié)構(gòu)非常簡單時(shí)，SQL可能沒有太大用處。

沒有過多的操作。

雖然NoSQL的支持者也承認(rèn)關(guān)系數(shù)據(jù)庫提供了無可比擬的功能集合，而且在數(shù)據(jù)完整性上也發(fā)揮絕對穩(wěn)定，他們同時(shí)也表示，企業(yè)的具體需求可能沒有那么多。

Bootstrap支持

因?yàn)镹oSQL項(xiàng)目都是開源的，因此它們?nèi)狈?yīng)商提供的正式支持。這一點(diǎn)它們與大多數(shù)開源項(xiàng)目一樣，不得不從社區(qū)中尋求支持。

優(yōu)點(diǎn)：

易擴(kuò)展

NoSQL數(shù)據(jù)庫種類繁多，但是一個(gè)共同的特點(diǎn)都是去掉關(guān)系數(shù)據(jù)庫的關(guān)系型特性。數(shù)據(jù)之間無關(guān)系，這樣就非常容易擴(kuò)展。也無形之間，在架構(gòu)的層面上帶來了可擴(kuò)展的能力。

大數(shù)據(jù)量，高性能

NoSQL數(shù)據(jù)庫都具有非常高的讀寫性能，尤其在大數(shù)據(jù)量下，同樣表現(xiàn)優(yōu)秀。這得益于它的無關(guān)系性，數(shù)據(jù)庫的結(jié)構(gòu)簡單。一般MySQL使用 Query Cache，每次表的更新Cache就失效，是一種大粒度的Cache，在針對web2.0的交互頻繁的應(yīng)用，Cache性能不高。而NoSQL的 Cache是記錄級的，是一種細(xì)粒度的Cache，所以NoSQL在這個(gè)層面上來說就要性能高很多了。

靈活的數(shù)據(jù)模型

NoSQL無需事先為要存儲的數(shù)據(jù)建立字段，隨時(shí)可以存儲自定義的數(shù)據(jù)格式。而在關(guān)系數(shù)據(jù)庫里，增刪字段是一件非常麻煩的事情。如果是非常大數(shù)據(jù)量的表，增加字段簡直就是一個(gè)噩夢。這點(diǎn)在大數(shù)據(jù)量的web2.0時(shí)代尤其明顯。

高可用

NoSQL在不太影響性能的情況，就可以方便的實(shí)現(xiàn)高可用的架構(gòu)。比如Cassandra，HBase模型，通過復(fù)制模型也能實(shí)現(xiàn)高可用。

主要應(yīng)用：

Apache HBase

這個(gè)大數(shù)據(jù)管理平臺建立在谷歌強(qiáng)大的BigTable管理引擎基礎(chǔ)上。作為具有開源、Java編碼、分布式多個(gè)優(yōu)勢的數(shù)據(jù)庫，Hbase最初被設(shè)計(jì)應(yīng)用于Hadoop平臺，而這一強(qiáng)大的數(shù)據(jù)管理工具，也被Facebook采用，用于管理消息平臺的龐大數(shù)據(jù)。

Apache Storm

用于處理高速、大型數(shù)據(jù)流的分布式實(shí)時(shí)計(jì)算系統(tǒng)。Storm為Apache Hadoop添加了可靠的實(shí)時(shí)數(shù)據(jù)處理功能，同時(shí)還增加了低延遲的儀表板、安全警報(bào)，改進(jìn)了原有的操作方式，幫助企業(yè)更有效率地捕獲商業(yè)機(jī)會、發(fā)展新業(yè)務(wù)。

Apache Spark

該技術(shù)采用內(nèi)存計(jì)算，從多迭代批量處理出發(fā)，允許將數(shù)據(jù)載入內(nèi)存做反復(fù)查詢，此外還融合數(shù)據(jù)倉庫、流處理和圖計(jì)算等多種計(jì)算范式，Spark用Scala語言實(shí)現(xiàn)，構(gòu)建在HDFS上，能與Hadoop很好的結(jié)合，而且運(yùn)行速度比MapReduce快100倍。

Apache Hadoop

該技術(shù)迅速成為了大數(shù)據(jù)管理標(biāo)準(zhǔn)之一。當(dāng)它被用來管理大型數(shù)據(jù)集時(shí)，對于復(fù)雜的分布式應(yīng)用，Hadoop體現(xiàn)出了非常好的性能，平臺的靈活性使它可以運(yùn)行在商用硬件系統(tǒng)，它還可以輕松地集成結(jié)構(gòu)化、半結(jié)構(gòu)化和甚至非結(jié)構(gòu)化數(shù)據(jù)集。

Apache Drill

你有多大的數(shù)據(jù)集？其實(shí)無論你有多大的數(shù)據(jù)集，Drill都能輕松應(yīng)對。通過支持HBase、Cassandra和MongoDB，Drill建立了交互式分析平臺，允許大規(guī)模數(shù)據(jù)吞吐，而且能很快得出結(jié)果。

Apache Sqoop

也許你的數(shù)據(jù)現(xiàn)在還被鎖定于舊系統(tǒng)中，Sqoop可以幫你解決這個(gè)問題。這一平臺采用并發(fā)連接，可以將數(shù)據(jù)從關(guān)系數(shù)據(jù)庫系統(tǒng)方便地轉(zhuǎn)移到Hadoop中，可以自定義數(shù)據(jù)類型以及元數(shù)據(jù)傳播的映射。事實(shí)上，你還可以將數(shù)據(jù)（如新的數(shù)據(jù)）導(dǎo)入到HDFS、Hive和Hbase中。

Apache Giraph

這是功能強(qiáng)大的圖形處理平臺，具有很好可擴(kuò)展性和可用性。該技術(shù)已經(jīng)被Facebook采用，Giraph可以運(yùn)行在Hadoop環(huán)境中，可以將它直接部署到現(xiàn)有的Hadoop系統(tǒng)中。通過這種方式，你可以得到強(qiáng)大的分布式作圖能力，同時(shí)還能利用上現(xiàn)有的大數(shù)據(jù)處理引擎。

Cloudera Impala

Impala模型也可以部署在你現(xiàn)有的Hadoop群集上，監(jiān)視所有的查詢。該技術(shù)和MapReduce一樣，具有強(qiáng)大的批處理能力，而且Impala對于實(shí)時(shí)的SQL查詢也有很好的效果，通過高效的SQL查詢，你可以很快的了解到大數(shù)據(jù)平臺上的數(shù)據(jù)。

Gephi

它可以用來對信息進(jìn)行關(guān)聯(lián)和量化處理，通過為數(shù)據(jù)創(chuàng)建功能強(qiáng)大的可視化效果，你可以從數(shù)據(jù)中得到不一樣的洞察力。Gephi已經(jīng)支持多個(gè)圖表類型，而且可以在具有上百萬個(gè)節(jié)點(diǎn)的大型網(wǎng)絡(luò)上運(yùn)行。Gephi具有活躍的用戶社區(qū)，Gephi還提供了大量的插件，可以和現(xiàn)有系統(tǒng)完美的集成到一起，它還可以對復(fù)雜的IT連接、分布式系統(tǒng)中各個(gè)節(jié)點(diǎn)、數(shù)據(jù)流等信息進(jìn)行可視化分析。

MongoDB

這個(gè)堅(jiān)實(shí)的平臺一直被很多組織推崇，它在大數(shù)據(jù)管理上有極好的性能。MongoDB最初是由DoubleClick公司的員工創(chuàng)建，現(xiàn)在該技術(shù)已經(jīng)被廣泛的應(yīng)用于大數(shù)據(jù)管理。MongoDB是一個(gè)應(yīng)用開源技術(shù)開發(fā)的NoSQL數(shù)據(jù)庫，可以用于在JSON這樣的平臺上存儲和處理數(shù)據(jù)。目前，紐約時(shí)報(bào)、Craigslist以及眾多企業(yè)都采用了MongoDB，幫助他們管理大型數(shù)據(jù)集。（Couchbase服務(wù)器也作為一個(gè)參考）。

十大頂尖公司：

Amazon Web Services

Forrester將AWS稱為“云霸主”，談到云計(jì)算領(lǐng)域的大數(shù)據(jù)，那就不得不提到亞馬遜。該公司的Hadoop產(chǎn)品被稱為EMR（Elastic Map Reduce），AWS解釋這款產(chǎn)品采用了Hadoop技術(shù)來提供大數(shù)據(jù)管理服務(wù)，但它不是純開源Hadoop，經(jīng)過修改后現(xiàn)在被專門用在AWS云上。

Forrester稱EMR有很好的市場前景。很多公司基于EMR為客戶提供服務(wù)，有一些公司將EMR應(yīng)用于數(shù)據(jù)查詢、建模、集成和管理。而且AWS還在創(chuàng)新，F(xiàn)orrester稱未來EMR可以基于工作量的需要自動(dòng)縮放調(diào)整大小。亞馬遜計(jì)劃為其產(chǎn)品和服務(wù)提供更強(qiáng)大的EMR支持，包括它的RedShift數(shù)據(jù)倉庫、新公布的Kenesis實(shí)時(shí)處理引擎以及計(jì)劃中的NoSQL數(shù)據(jù)庫和商業(yè)智能工具。不過AWS還沒有自己的Hadoop發(fā)行版。

Cloudera

Cloudera有開源Hadoop的發(fā)行版，這個(gè)發(fā)行版采用了Apache Hadoop開源項(xiàng)目的很多技術(shù)，不過基于這些技術(shù)的發(fā)行版也有很大的進(jìn)步。Cloudera為它的Hadoop發(fā)行版開發(fā)了很多功能，包括Cloudera管理器，用于管理和監(jiān)控，以及名為Impala的SQL引擎等。Cloudera的Hadoop發(fā)行版基于開源Hadoop，但也不是純開源的產(chǎn)品。當(dāng)Cloudera的客戶需要Hadoop不具備的某些功能時(shí)，Cloudera的工程師們就會實(shí)現(xiàn)這些功能，或者找一個(gè)擁有這項(xiàng)技術(shù)的合作伙伴。Forrester表示：“Cloudera的創(chuàng)新方法忠于核心Hadoop，但因?yàn)槠淇蓪?shí)現(xiàn)快速創(chuàng)新并積極滿足客戶需求，這一點(diǎn)使它不同于其他那些供應(yīng)商。”目前，Cloudera的平臺已經(jīng)擁有200多個(gè)付費(fèi)客戶，一些客戶在Cloudera的技術(shù)支持下已經(jīng)可以跨1000多個(gè)節(jié)點(diǎn)實(shí)現(xiàn)對PB級數(shù)據(jù)的有效管理。

Hortonworks

和Cloudera一樣，Hortonworks是一個(gè)純粹的Hadoop技術(shù)公司。與Cloudera不同的是，Hortonworks堅(jiān)信開源Hadoop比任何其他供應(yīng)商的Hadoop發(fā)行版都要強(qiáng)大。Hortonworks的目標(biāo)是建立Hadoop生態(tài)圈和Hadoop用戶社區(qū)，推進(jìn)開源項(xiàng)目的發(fā)展。Hortonworks平臺和開源Hadoop聯(lián)系緊密，公司管理人員表示這會給用戶帶來好處，因?yàn)樗梢苑乐贡还?yīng)商套牢（如果Hortonworks的客戶想要離開這個(gè)平臺，他們可以輕松轉(zhuǎn)向其他開源平臺）。這并不是說Hortonworks完全依賴開源Hadoop技術(shù)，而是因?yàn)樵摴緦⑵渌虚_發(fā)的成果回報(bào)給了開源社區(qū)，比如Ambari，這個(gè)工具就是由Hortonworks開發(fā)而成，用來填充集群管理項(xiàng)目漏洞。Hortonworks的方案已經(jīng)得到了Teradata、Microsoft、Red Hat和SAP這些供應(yīng)商的支持。

IBM

當(dāng)企業(yè)考慮一些大的IT項(xiàng)目時(shí)，很多人首先會想到IBM。IBM是Hadoop項(xiàng)目的主要參與者之一，F(xiàn)orrester稱IBM已有100多個(gè)Hadoop部署，它的很多客戶都有PB級的數(shù)據(jù)。IBM在網(wǎng)格計(jì)算、全球數(shù)據(jù)中心和企業(yè)大數(shù)據(jù)項(xiàng)目實(shí)施等眾多領(lǐng)域有著豐富的經(jīng)驗(yàn)。“IBM計(jì)劃繼續(xù)整合SPSS分析、高性能計(jì)算、BI工具、數(shù)據(jù)管理和建模、應(yīng)對高性能計(jì)算的工作負(fù)載管理等眾多技術(shù)。”

Intel

和AWS類似，英特爾不斷改進(jìn)和優(yōu)化Hadoop使其運(yùn)行在自己的硬件上，具體來說，就是讓Hadoop運(yùn)行在其至強(qiáng)芯片上，幫助用戶打破Hadoop系統(tǒng)的一些限制，使軟件和硬件結(jié)合的更好，英特爾的Hadoop發(fā)行版在上述方面做得比較好。Forrester指出英特爾在最近才推出這個(gè)產(chǎn)品，所以公司在未來還有很多改進(jìn)的可能，英特爾和微軟都被認(rèn)為是Hadoop市場上的潛力股。

MapR Technologies

MapR的Hadoop發(fā)行版目前為止也許是最好的了，不過很多人可能都沒有聽說過。Forrester對Hadoop用戶的調(diào)查顯示，MapR的評級最高，其發(fā)行版在架構(gòu)和數(shù)據(jù)處理能力上都獲得了最高分。MapR已將一套特殊功能融入其Hadoop發(fā)行版中。例如網(wǎng)絡(luò)文件系統(tǒng)（NFS）、災(zāi)難恢復(fù)以及高可用性功能。Forrester說MapR在Hadoop市場上沒有Cloudera和Hortonworks那樣的知名度，MapR要成為一個(gè)真正的大企業(yè)，還需要加強(qiáng)伙伴關(guān)系和市場營銷。

Microsoft

微軟在開源軟件問題上一直很低調(diào)，但在大數(shù)據(jù)形勢下，它不得不考慮讓W(xué)indows也兼容Hadoop，它還積極投入到開源項(xiàng)目中，以更廣泛地推動(dòng)Hadoop生態(tài)圈的發(fā)展。我們可以在微軟的公共云Windows Azure HDInsight產(chǎn)品中看到其成果。微軟的Hadoop服務(wù)基于Hortonworks的發(fā)行版，而且是為Azure量身定制的。

微軟也有一些其他的項(xiàng)目，包括名為Polybase的項(xiàng)目，讓Hadoop查詢實(shí)現(xiàn)了SQLServer查詢的一些功能。Forrester說：“微軟在數(shù)據(jù)庫、數(shù)據(jù)倉庫、云、OLAP、BI、電子表格（包括PowerPivot）、協(xié)作和開發(fā)工具市場上有很大優(yōu)勢，而且微軟擁有龐大的用戶群，但要在Hadoop這個(gè)領(lǐng)域成為行業(yè)領(lǐng)導(dǎo)者還有很遠(yuǎn)的路要走。”

Pivotal Software

EMC和Vmware部分大數(shù)據(jù)業(yè)務(wù)分拆組合產(chǎn)生了Pivotal。Pivotal一直努力構(gòu)建一個(gè)性能優(yōu)越的Hadoop發(fā)行版，為此，Pivotal在開源Hadoop的基礎(chǔ)上又添加了一些新的工具，包括一個(gè)名為HAWQ的SQL引擎以及一個(gè)專門解決大數(shù)據(jù)問題的Hadoop應(yīng)用。Forrester稱Pivotal Hadoop平臺的優(yōu)勢在于它整合了Pivotal、EMC、Vmware的眾多技術(shù)，Pivotal的真正優(yōu)勢實(shí)際上等于EMC和Vmware兩大公司為其撐腰。到目前為止，Pivotal的用戶還不到100個(gè)，而且大多是中小型客戶。

Teradata

對于Teradata來說，Hadoop既是一種威脅也是一種機(jī)遇。數(shù)據(jù)管理，特別是關(guān)于SQL和關(guān)系數(shù)據(jù)庫這一領(lǐng)域是Teradata的專長。所以像Hadoop這樣的NoSQL平臺崛起可能會威脅到Teradata。相反，Teradata接受了Hadoop，通過與Hortonworks合作，Teradata在Hadoop平臺集成了SQL技術(shù)，這使Teradata的客戶可以在Hadoop平臺上方便地使用存儲在Teradata數(shù)據(jù)倉庫中的數(shù)據(jù)。

AMPLab

通過將數(shù)據(jù)轉(zhuǎn)變?yōu)樾畔ⅲ覀儾趴梢岳斫馐澜纾@也正是AMPLab所做的。AMPLab致力于機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)庫、信息檢索、自然語言處理和語音識別等多個(gè)領(lǐng)域，努力改進(jìn)對信息包括不透明數(shù)據(jù)集內(nèi)信息的甄別技術(shù)。除了Spark，開源分布式SQL查詢引擎Shark也源于AMPLab，Shark具有極高的查詢效率，具有良好的兼容性和可擴(kuò)展性。近幾年的發(fā)展使計(jì)算機(jī)科學(xué)進(jìn)入到全新的時(shí)代，而AMPLab為我們設(shè)想一個(gè)運(yùn)用大數(shù)據(jù)、云計(jì)算、通信等各種資源和技術(shù)靈活解決難題的方案，以應(yīng)對越來越復(fù)雜的各種難題。

保護(hù)大數(shù)據(jù)安全的10個(gè)要點(diǎn)

一項(xiàng)對2021年數(shù)據(jù)泄露的分析顯示，總共有50億份數(shù)據(jù)被泄露，這對所有參與大數(shù)據(jù)管道工作的人來說，從開發(fā)人員到DevOps工程師，安全性與基礎(chǔ)業(yè)務(wù)需求同等重要。

大數(shù)據(jù)安全是指在存儲、處理和分析過于龐大和復(fù)雜的數(shù)據(jù)集時(shí)，采用任何措施來保護(hù)數(shù)據(jù)免受惡意活動(dòng)的侵害，傳統(tǒng)數(shù)據(jù)庫應(yīng)用程序無法處理這些數(shù)據(jù)集。大數(shù)據(jù)可以混合結(jié)構(gòu)化格式(組織成包含數(shù)字、日期等的行和列)或非結(jié)構(gòu)化格式(社交媒體數(shù)據(jù)、PDF 文件、電子郵件、圖像等)。不過，估計(jì)顯示高達(dá)90%的大數(shù)據(jù)是非結(jié)構(gòu)化的。

大數(shù)據(jù)的魅力在于，它通常包含一些隱藏的洞察力，可以改善業(yè)務(wù)流程，推動(dòng)創(chuàng)新，或揭示未知的市場趨勢。由于分析這些信息的工作負(fù)載通常會將敏感的客戶數(shù)據(jù)或?qū)Ｓ袛?shù)據(jù)與第三方數(shù)據(jù)源結(jié)合起來，因此數(shù)據(jù)安全性至關(guān)重要。聲譽(yù)受損和巨額經(jīng)濟(jì)損失是大數(shù)據(jù)泄露和數(shù)據(jù)被破壞的兩大主要后果。

在確保大數(shù)據(jù)安全時(shí)，需要考慮三個(gè)關(guān)鍵階段:

當(dāng)數(shù)據(jù)從源位置移動(dòng)到存儲或?qū)崟r(shí)攝取(通常在云中)時(shí)，確保數(shù)據(jù)的傳輸

保護(hù)大數(shù)據(jù)管道的存儲層中的數(shù)據(jù)(例如Hadoop分布式文件系統(tǒng))

確保輸出數(shù)據(jù)的機(jī)密性，例如報(bào)告和儀表板，這些數(shù)據(jù)包含通過Apache Spark等分析引擎運(yùn)行數(shù)據(jù)收集的情報(bào)

這些環(huán)境中的安全威脅類型包括不適當(dāng)?shù)脑L問控制、分布式拒絕服務(wù)(DDoS)攻擊、產(chǎn)生虛假或惡意數(shù)據(jù)的端點(diǎn)，或在大數(shù)據(jù)工作期間使用的庫、框架和應(yīng)用程序的漏洞。

由于所涉及的架構(gòu)和環(huán)境復(fù)雜性，大數(shù)據(jù)安全面臨著許多挑戰(zhàn)。在大數(shù)據(jù)環(huán)境中，不同的硬件和技術(shù)在分布式計(jì)算環(huán)境中相互作用。比如：

像Hadoop這樣的開源框架在設(shè)計(jì)之初并沒有考慮到安全性

依賴分布式計(jì)算來處理這些大型數(shù)據(jù)集意味著有更多的系統(tǒng)可能出錯(cuò)

確保從端點(diǎn)收集的日志或事件數(shù)據(jù)的有效性和真實(shí)性

控制內(nèi)部人員對數(shù)據(jù)挖掘工具的訪問，監(jiān)控可疑行為

運(yùn)行標(biāo)準(zhǔn)安全審計(jì)的困難

保護(hù)非關(guān)系NoSQL數(shù)據(jù)庫

這些挑戰(zhàn)是對保護(hù)任何類型數(shù)據(jù)的常見挑戰(zhàn)的補(bǔ)充。

靜態(tài)數(shù)據(jù)和傳輸中數(shù)據(jù)的可擴(kuò)展加密對于跨大數(shù)據(jù)管道實(shí)施至關(guān)重要。可擴(kuò)展性是這里的關(guān)鍵點(diǎn)，因?yàn)槌薔oSQL等存儲格式之外，需要跨分析工具集及其輸出加密數(shù)據(jù)。加密的作用在于，即使威脅者設(shè)法攔截?cái)?shù)據(jù)包或訪問敏感文件，實(shí)施良好的加密過程也會使數(shù)據(jù)不可讀。

獲得訪問控制權(quán)可針對一系列大數(shù)據(jù)安全問題提供強(qiáng)大的保護(hù)，例如內(nèi)部威脅和特權(quán)過剩。基于角色的訪問可以幫助控制對大數(shù)據(jù)管道多層的訪問。例如，數(shù)據(jù)分析師可以訪問分析工具，但他們可能不應(yīng)該訪問大數(shù)據(jù)開發(fā)人員使用的工具，如ETL軟件。最小權(quán)限原則是訪問控制的一個(gè)很好的參考點(diǎn)，它限制了對執(zhí)行用戶任務(wù)所必需的工具和數(shù)據(jù)的訪問。

大數(shù)據(jù)工作負(fù)載所需要的固有的大存儲容量和處理能力使得大多數(shù)企業(yè)可以為大數(shù)據(jù)使用云計(jì)算基礎(chǔ)設(shè)施和服務(wù)。但是，盡管云計(jì)算很有吸引力，暴露的API密鑰、令牌和錯(cuò)誤配置都是云中值得認(rèn)真對待的風(fēng)險(xiǎn)。如果有人讓S3中的AWS數(shù)據(jù)湖完全開放，并且對互聯(lián)網(wǎng)上的任何人都可以訪問，那會怎么樣?有了自動(dòng)掃描工具，可以快速掃描公共云資產(chǎn)以尋找安全盲點(diǎn)，從而更容易降低這些風(fēng)險(xiǎn)。

在復(fù)雜的大數(shù)據(jù)生態(tài)系統(tǒng)中，加密的安全性需要一種集中的密鑰管理方法，以確保對加密密鑰進(jìn)行有效的策略驅(qū)動(dòng)處理。集中式密鑰管理還可以控制從創(chuàng)建到密鑰輪換的密鑰治理。對于在云中運(yùn)行大數(shù)據(jù)工作負(fù)載的企業(yè)，自帶密鑰 (BYOK) 可能是允許集中密鑰管理而不將加密密鑰創(chuàng)建和管理的控制權(quán)交給第三方云提供商的最佳選擇。

在大數(shù)據(jù)管道中，由于數(shù)據(jù)來自許多不同的來源，包括來自社交媒體平臺的流數(shù)據(jù)和來自用戶終端的數(shù)據(jù)，因此會有持續(xù)的流量。網(wǎng)絡(luò)流量分析提供了對網(wǎng)絡(luò)流量和任何潛在異常的可見性，例如來自物聯(lián)網(wǎng)設(shè)備的惡意數(shù)據(jù)或正在使用的未加密通信協(xié)議。

2021年的一份報(bào)告發(fā)現(xiàn)，98%的組織感到容易受到內(nèi)部攻擊。在大數(shù)據(jù)的背景下，內(nèi)部威脅對敏感公司信息的機(jī)密性構(gòu)成嚴(yán)重風(fēng)險(xiǎn)。有權(quán)訪問分析報(bào)告和儀表板的惡意內(nèi)部人員可能會向競爭對手透露見解，甚至提供他們的登錄憑據(jù)進(jìn)行銷售。從內(nèi)部威脅檢測開始的一個(gè)好地方是檢查常見業(yè)務(wù)應(yīng)用程序的日志，例如 RDP、VPN、Active Directory 和端點(diǎn)。這些日志可以揭示值得調(diào)查的異常情況，例如意外的數(shù)據(jù)下載或異常的登錄時(shí)間。

威脅搜尋主動(dòng)搜索潛伏在您的網(wǎng)絡(luò)中未被發(fā)現(xiàn)的威脅。這個(gè)過程需要經(jīng)驗(yàn)豐富的網(wǎng)絡(luò)安全分析師的技能組合，利用來自現(xiàn)實(shí)世界的攻擊、威脅活動(dòng)的情報(bào)或來自不同安全工具的相關(guān)發(fā)現(xiàn)來制定關(guān)于潛在威脅的假設(shè)。具有諷刺意味的是，大數(shù)據(jù)實(shí)際上可以通過發(fā)現(xiàn)大量安全數(shù)據(jù)中隱藏的洞察力來幫助改進(jìn)威脅追蹤工作。但作為提高大數(shù)據(jù)安全性的一種方式，威脅搜尋會監(jiān)控?cái)?shù)據(jù)集和基礎(chǔ)設(shè)施，以尋找表明大數(shù)據(jù)環(huán)境受到威脅的工件。

出于安全目的監(jiān)視大數(shù)據(jù)日志和工具會產(chǎn)生大量信息，這些信息通常最終形成安全信息和事件管理(SIEM)解決方案。

用戶行為分析比內(nèi)部威脅檢測更進(jìn)一步，它提供了專門的工具集來監(jiān)控用戶在與其交互的系統(tǒng)上的行為。通常情況下，行為分析使用一個(gè)評分系統(tǒng)來創(chuàng)建正常用戶、應(yīng)用程序和設(shè)備行為的基線，然后在這些基線出現(xiàn)偏差時(shí)進(jìn)行提醒。通過用戶行為分析，可以更好地檢測威脅大數(shù)據(jù)環(huán)境中資產(chǎn)的保密性、完整性或可用性的內(nèi)部威脅和受損的用戶帳戶。

未經(jīng)授權(quán)的數(shù)據(jù)傳輸?shù)那熬白尠踩I(lǐng)導(dǎo)者徹夜難眠，特別是如果數(shù)據(jù)泄露發(fā)生在可以復(fù)制大量潛在敏感資產(chǎn)的大數(shù)據(jù)管道中。檢測數(shù)據(jù)泄露需要對出站流量、IP地址和流量進(jìn)行深入監(jiān)控。防止數(shù)據(jù)泄露首先來自于在代碼和錯(cuò)誤配置中發(fā)現(xiàn)有害安全錯(cuò)誤的工具，以及數(shù)據(jù)丟失預(yù)防和下一代防火墻。另一個(gè)重要方面是在企業(yè)內(nèi)進(jìn)行教育和提高認(rèn)識。

框架、庫、軟件實(shí)用程序、數(shù)據(jù)攝取、分析工具和自定義應(yīng)用程序——大數(shù)據(jù)安全始于代碼級別。 無論是否實(shí)施了上述公認(rèn)的安全實(shí)踐，代碼中的安全缺陷都可能導(dǎo)致數(shù)據(jù)泄漏。 通過在軟件開發(fā)生命周期中檢測自研代碼及開源組件成分的安全性，加強(qiáng)軟件安全性來防止數(shù)據(jù)丟失。

文章名稱：nosql的數(shù)據(jù)安全性,nosql數(shù)據(jù)庫的六大特征
網(wǎng)頁URL：http://chinadenli.net/article49/dsepjhh.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供企業(yè)網(wǎng)站制作、網(wǎng)站設(shè)計(jì)、、用戶體驗(yàn)、定制開發(fā)、品牌網(wǎng)站建設(shè)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)