之所以要區(qū)分大數(shù)據(jù)應(yīng)用與BI(商業(yè)智能)，是因為大數(shù)據(jù)應(yīng)用與BI、數(shù)據(jù)挖掘等，并沒有一個相對完整的認(rèn)知。

BI(BusinessIntelligence)即商務(wù)智能，它是一套完整的解決方案，用來將企業(yè)中現(xiàn)有的數(shù)據(jù)進行有效的整合，快速準(zhǔn)確的提供報表并提出決策依據(jù)，幫助企業(yè)做出明智的業(yè)務(wù)經(jīng)營決策。

伴隨著BI的發(fā)展，是ETL，數(shù)據(jù)集成平臺等概念的提出。ETL，Extraction Transformation Loading，數(shù)據(jù)提取、轉(zhuǎn)換和加載，數(shù)據(jù)集成平臺主要功能對各種業(yè)務(wù)數(shù)據(jù)進行抽取和相關(guān)轉(zhuǎn)化，以此來滿足BI、數(shù)據(jù)倉庫對數(shù)據(jù)格式和內(nèi)容挖掘的要求。

數(shù)據(jù)集成平臺的基礎(chǔ)工作與ETL有很大的相似性，其主要功能是實現(xiàn)不同系統(tǒng)不同格式數(shù)據(jù)地抽取，并且按照目標(biāo)需求轉(zhuǎn)化成為相應(yīng)的格式。數(shù)據(jù)集成開始是點對點的，慢慢地發(fā)現(xiàn)這種模式對于系統(tǒng)之間，不同所有權(quán)的企業(yè)數(shù)據(jù)流向以及數(shù)據(jù)標(biāo)準(zhǔn)控制很難，為此，誕生了對統(tǒng)一企業(yè)數(shù)據(jù)平臺的需求，來實現(xiàn)企業(yè)級之間的數(shù)據(jù)交互。

數(shù)據(jù)集成平臺就像網(wǎng)絡(luò)中Hub，可以連接所有應(yīng)用系統(tǒng)，實現(xiàn)系統(tǒng)之間數(shù)據(jù)的互通有無。數(shù)據(jù)集成平臺以BI、數(shù)據(jù)倉庫需求而產(chǎn)生，現(xiàn)在已經(jīng)跨越了最初的需求，上升到了一個更高的階段。

如今大數(shù)據(jù)應(yīng)用更多關(guān)注非結(jié)構(gòu)化數(shù)據(jù)，更多談?wù)摶ヂ?lián)網(wǎng)，Twitter、Facebook、博客等非結(jié)構(gòu)化數(shù)據(jù)，如此理解大數(shù)據(jù)應(yīng)用，顯然就有些走偏了。結(jié)構(gòu)化數(shù)據(jù)也屬于大數(shù)據(jù)，且呈現(xiàn)出相同的特點和特征，如數(shù)據(jù)量大，增長越來越快，對數(shù)據(jù)處理要求高等。

結(jié)構(gòu)化數(shù)據(jù)是廣義大數(shù)據(jù)中含金量或者價值密度最高的一部分?jǐn)?shù)據(jù)，與之相比，非結(jié)構(gòu)化數(shù)據(jù)含金量高但價值密度低。在Hadoop平臺出現(xiàn)之前，沒有人談?wù)摯髷?shù)據(jù)。數(shù)據(jù)應(yīng)用主要是結(jié)構(gòu)化數(shù)據(jù)，多采用IBM、HP等老牌廠商的小型機或服務(wù)器設(shè)備。

采用傳統(tǒng)方法處理這些價值密度低的非結(jié)構(gòu)化數(shù)據(jù)，被認(rèn)為是不值得的，因為其產(chǎn)出實在是有限。Hadoop平臺出現(xiàn)之后，提供了一種開放的、廉價的、基于普通商業(yè)硬件的平臺，其核心是分布式大規(guī)模并行處理，從而為非結(jié)構(gòu)化數(shù)據(jù)處理創(chuàng)造條件。

大數(shù)據(jù)應(yīng)用的數(shù)據(jù)來源應(yīng)該包括結(jié)構(gòu)化數(shù)據(jù)，如各種數(shù)據(jù)庫、各種結(jié)構(gòu)化文件、消息隊列和應(yīng)用系統(tǒng)數(shù)據(jù)等，其次才是非結(jié)構(gòu)化數(shù)據(jù)，又可以進一步細(xì)分為兩部分，一是社交媒體，如Twitter、Facebook、博客等產(chǎn)生的數(shù)據(jù)，包括用戶點擊的習(xí)慣/特點，發(fā)表的評論，評論的特點，網(wǎng)民之間的關(guān)系等，這些都構(gòu)成了大數(shù)據(jù)來源。另外一部分?jǐn)?shù)據(jù)，也是數(shù)據(jù)量比較大的數(shù)據(jù)，就是機器設(shè)備以及傳感器所產(chǎn)生的數(shù)據(jù)。以電信行業(yè)為例，CDR、呼叫記錄，這些數(shù)據(jù)都屬于原始傳感器數(shù)據(jù)，主要來自路由器或者基站。此外，手機的置傳感器，各種手持設(shè)備、門禁系統(tǒng)，攝像頭、ATM機等，其數(shù)據(jù)量也非常巨大。

對于分析大數(shù)據(jù)的工具，目前所有的分析工具都側(cè)重于結(jié)構(gòu)化分析，例如針對社交媒體評論方向的分析，根據(jù)特定的詞頻或者語義，通過統(tǒng)計正面/負(fù)面評論的比例，來確定評論性質(zhì)。如果有一個應(yīng)用系統(tǒng)是接收結(jié)構(gòu)化數(shù)據(jù)的，例如一個分析系統(tǒng)，接收這些語義就可以便于分析。

讓大數(shù)據(jù)應(yīng)用落地，其中的關(guān)鍵在于與行業(yè)應(yīng)用的深度融合。

公安行業(yè)的視頻影像處理是一個特定應(yīng)用領(lǐng)域，傳統(tǒng)BI、ETL工具拿這些數(shù)據(jù)沒有辦法，采用分布式Hadoop進行處理能夠帶來很好的效益，因為Hadoop可以處理數(shù)據(jù)量足夠大。公安行業(yè)實際上已采集了大量視頻影像數(shù)據(jù)，利用這些數(shù)據(jù)，可以追蹤一個嫌疑犯的行蹤，什么時間在全國哪些地區(qū)出現(xiàn)過。這些應(yīng)用不可能單純依靠人的力量，需要借助人臉識別、圖像識別技術(shù)、模式處理，數(shù)據(jù)壓縮等技術(shù)，需要海量處理軟件，抓出相關(guān)特征，幫助公安人員提高工作效率。

在電信行業(yè)，計費系統(tǒng)實際上是對各種數(shù)據(jù)進行整合后的結(jié)果，是一個縮小的數(shù)據(jù)。借助大數(shù)據(jù)應(yīng)用，運營商可以原始大數(shù)據(jù)進行分析，例如分析傳感器數(shù)據(jù)是否有異常，從而判斷設(shè)備異常等，這些都是一些用傳統(tǒng)BI工具無法實現(xiàn)的分析，其結(jié)果往往會出乎意料，幫助運營商提高服務(wù)水平以及用戶的滿意度。

在互聯(lián)網(wǎng)行業(yè)，通過分析手機上網(wǎng)軌跡，可以分析了解客戶群，了解用戶的偏好，此外，獲取地理位置的信息，也具有特定價值。

從這些行業(yè)大數(shù)據(jù)應(yīng)用分析來看，一個是視頻影像處理，一個是日志分析，另外一個是處理特定文件格式的分析處理，彼此之間顯然沒有任何通用性的特點，其共同點就是利用了廉價的大數(shù)據(jù)處理平臺。

　　Gartner：大數(shù)據(jù)宣傳在商務(wù)智能市場成效不明顯

市場研究公司Gartner指出，去年的大數(shù)據(jù)宣傳未能促進全球商務(wù)智能和分析市場出現(xiàn)快速增長。

Gartner稱，盡管商務(wù)智能和分析市場在2013年增長了8%，增長至144億美元，但是漲幅低于預(yù)期。大數(shù)據(jù)通常指對來自社交網(wǎng)絡(luò)、傳感器等來源的海量非結(jié)構(gòu)化信息進行的挖掘與分析，而傳統(tǒng)的商務(wù)智能只是報告和分析結(jié)構(gòu)化數(shù)據(jù)存儲。

Gartner 分析師Dan Sommer和Bhavish Sood在報告寫道： “雖然大數(shù)據(jù)宣傳力度在2013年達(dá)到了高潮，但是對分析市場的影響卻不是很大。”報告稱，在Gartner調(diào)研的機構(gòu)中，僅8%的機構(gòu)實際部署了大數(shù)據(jù)項目，57%的機構(gòu)仍處于調(diào)研和規(guī)劃階段。這一水平已經(jīng)影響到了大量企業(yè)的創(chuàng)新周期。

大數(shù)據(jù)巨頭在2013年的營利與增長速度之間出現(xiàn)了脫節(jié)。SAP、甲骨文、IBM和賽仕研究所等四大商務(wù)智能公司的增長率嚴(yán)重低于市場平均增長率。這些廠商面臨的核心挑戰(zhàn)是他們的成熟程度。“他們的核心解決方案一直是IT主導(dǎo)的企業(yè)商務(wù)智能平臺，并通過語義層將信息與報告、查詢與在線分析處理等功能連接在一起。盡管價值昂貴，但是大多數(shù)機構(gòu)部署的均為這種類型的商務(wù)智能解決方案。”

為此類工具提升了低成本備選方案的Jaspersoft和Pentaho等公司在去年獲得了快速增長，其增長率高于市場平均增長率。Gartner的報告指出，Tibco Spotfire和Tableau等公司在2013年推出的數(shù)據(jù)發(fā)現(xiàn)工具對于商務(wù)智能終端用戶體驗來說可以說是一種全新的標(biāo)準(zhǔn)。這些工具讓用戶對數(shù)據(jù)集有了更多的視覺感受。

分析師指出，大型商務(wù)智能廠商去年一直在不遺余力的開發(fā)自己的數(shù)據(jù)發(fā)現(xiàn)產(chǎn)品。這一舉措將整個市場的競爭推出到了一個更激烈的階段。基于云的商務(wù)智能在去年開始受到關(guān)注。盡管其僅占有4%的市場份額，但是其增長率達(dá)到了42%。“尤其是小型公司已經(jīng)開始向云遷移，并將其視為一種可以處于有關(guān)大數(shù)據(jù)和分析等事務(wù)的使能器。”