如今整個商業(yè)世界都面臨著新的難題，即如何處理來自各客戶接觸點、交易以及互動對象的大量數(shù)據(jù)。但與此同時，我們也看到了解決問題的曙光——實時數(shù)據(jù)流技術(shù)，其能夠存儲大量數(shù)值及歷史數(shù)據(jù)，以備日后隨時調(diào)用。

可能很多朋友還沒有接觸過大數(shù)據(jù)分析方案，也有人認(rèn)為其僅僅算是個愿景而非現(xiàn)實——畢竟能夠證明其可行性與實際效果的案例確實相對有限。但可以肯定的是，實時數(shù)據(jù)流中包含著大量重要價值，足以幫助企業(yè)及人員在未來的工作中達(dá)成更為理想的結(jié)果。

實時分析用例

眾多行業(yè)及工作都能夠從數(shù)據(jù)流處理方案中獲得助益。數(shù)據(jù)流能夠通過管理數(shù)據(jù)實時變化迅速建立起形勢判斷，并幫助企業(yè)以最快速度收集來自傳感器(包括GPS與溫度計等)、攝像頭、新聞消息、衛(wèi)星、股票行情、網(wǎng)絡(luò)爬蟲、服務(wù)器日志、Flume、Twitter、傳統(tǒng)數(shù)據(jù)庫甚至是Hadoop系統(tǒng)的數(shù)據(jù)，最終將其轉(zhuǎn)化為能夠提升企業(yè)業(yè)績的決策工具。

話雖如此，但實時數(shù)據(jù)分析結(jié)論帶來機遇的同時也充滿挑戰(zhàn)，意味著管理層或者負(fù)責(zé)人員需要采取準(zhǔn)確的數(shù)據(jù)提煉模式才能將其轉(zhuǎn)化為可靠的決策依據(jù)。一般來講，實時數(shù)據(jù)分析方案需要立足于專業(yè)知識并配合業(yè)務(wù)洞察力，方能真正實現(xiàn)最優(yōu)決策與響應(yīng)提速。而且更重要的是，分析結(jié)論除實時性質(zhì)之外還需要被確切交付至相關(guān)者手中。

醫(yī)療衛(wèi)生與生命科學(xué)：

ICU監(jiān)控 – 高效監(jiān)控機制，主動及時關(guān)注重癥監(jiān)護病人。

遠(yuǎn)程醫(yī)療監(jiān)控 —遠(yuǎn)程醫(yī)療監(jiān)控能夠簡化醫(yī)護人員訪問并分析病患醫(yī)療記錄的流程，從而確保病人得到有效診療并降低不必要的成本。

臨床試驗與醫(yī)療設(shè)備數(shù)據(jù) — 臨床數(shù)據(jù)流分析能夠順利識別出異常或者預(yù)料之外的行為或者表現(xiàn)，從而輔助做出更準(zhǔn)確的診斷意見。換言之，其有助于檢測疾病的早期跡象，識別多名病患間的關(guān)聯(lián)性并量化特定治療手段的實際功效。

疫情預(yù)警系統(tǒng) — 實時傳感器數(shù)據(jù)分析有助于檢測傳染病的暴發(fā)可能性，并通過早期預(yù)警系統(tǒng)提示預(yù)防及準(zhǔn)備。

保險業(yè)

欺詐檢測

提升案例管理效率

檢查策略針對性

策略績效評估

更好地預(yù)測未來走向，并據(jù)此做出產(chǎn)品設(shè)計、開發(fā)與交付

對產(chǎn)品價格做出細(xì)化區(qū)分

根據(jù)當(dāng)前銷售趨勢做出銷售預(yù)測分析

通過實時盡職性調(diào)查剔除不合格保險案例

電信運營商

電信運營商能夠深入了解客戶行為并提供定制化服務(wù)(例如基于位置的服務(wù)、優(yōu)惠政策及產(chǎn)品建議等)，并分析客戶的忠誠度、喜好及需求變化趨勢。以此為基礎(chǔ)，運營商將能夠改進計費標(biāo)準(zhǔn)、提升服務(wù)質(zhì)量、改善安全性并控制欺詐活動。

能源行業(yè)

實時數(shù)據(jù)分析在能源行業(yè)中的一大典型案例在于智能化電網(wǎng)。其將以實際使用情況為基礎(chǔ)顯著提升能源供應(yīng)效率。

根據(jù)特定條件預(yù)測設(shè)備活動。

檢測多設(shè)備閾值級別以降低故障影響。

通過對勘探及生產(chǎn)數(shù)據(jù)的實時分析降低現(xiàn)場人員的工作風(fēng)險。

電子商務(wù)

客戶分析

購買建議

根據(jù)社交媒體情緒分析控制事故或進行修正

運輸行業(yè)

通過GPS實現(xiàn)實時追蹤

智能化交管方案以降低高峰時段的路線擁堵情況

即時與自動遠(yuǎn)程信息處理，實現(xiàn)車輛聯(lián)網(wǎng)

投機市場

情緒分析

動量計算

天氣對股市及股票價格的影響

極低延遲實現(xiàn)市場數(shù)據(jù)分析

執(zhí)法領(lǐng)域

智能警務(wù)(傳感器、閉路電視安裝并接入中央云數(shù)據(jù)庫、車牌識別、語音識別、犯罪嫌疑人及罪犯GPS追蹤等)

監(jiān)控并識別異常活動、行為或事故，旨在加快決策制定速度并防止及減少犯罪事件

刑事調(diào)查

監(jiān)控各執(zhí)法機構(gòu)及公眾間交互

技術(shù)領(lǐng)域

網(wǎng)站流量分析與參與(最常瀏覽頁面、瀏覽時長最高頁面、訪客行為及用戶導(dǎo)航模式等)

移動應(yīng)用——下載、會話、偏好、交易、使用模式等，有效分析客戶行為并設(shè)計服務(wù)以提升使用感受

實時數(shù)據(jù)處理的挑戰(zhàn)所在

實時事件/交易/交互數(shù)量每秒以百萬計，由此產(chǎn)生的數(shù)據(jù)自然會給數(shù)據(jù)流處理系統(tǒng)造成巨大的壓力。即使數(shù)據(jù)已經(jīng)收集完成，系統(tǒng)仍然需要具備強大的能力以并行處理這些數(shù)據(jù)。之后是進行事件關(guān)聯(lián)，旨在幫助我們從數(shù)據(jù)中提取有價值信息。除此之外，整套系統(tǒng)還需要具備容錯性與分布式設(shè)計——這意味著系統(tǒng)需要擁有低延遲水平以及速度更快的計算機制以完成實時響應(yīng)任務(wù)。

如何實現(xiàn)

為了滿足以上各項苛刻條件，我們需要將大量工具加以結(jié)合。其中Apache Kafka負(fù)責(zé)收集數(shù)據(jù)流，并通過Apache Storm或者Apache Spark(基于具體系統(tǒng)需求)將其路由至HIVE/HDFS，接下來由分析引擎提取結(jié)論并將其發(fā)送至儀表板。

如何簡化實現(xiàn)流程

來自任何來源的數(shù)據(jù)都會由Kafka集群負(fù)責(zé)收集與暫時存儲，而Zookeeper——>中繼——>主題分類機制則隨即跟上。而后其會通過Storm或者Spark被發(fā)送至HIVE/HDFS，并由后者再傳遞至分析引擎(例如SAS VA)——這一切都以實時方式完成，結(jié)論則被推送至儀表板供用戶理解及據(jù)此行動。

最后，為了充分發(fā)揮實時數(shù)據(jù)分析的潛能，企業(yè)之間還需要通力協(xié)作。大數(shù)據(jù)領(lǐng)域的經(jīng)驗證明，合作伙伴之間的配合是實現(xiàn)分析的前提條件。最后，各合作伙伴還需要廣泛接觸各垂直行業(yè)，從而理解其中的具體業(yè)務(wù)及錯綜復(fù)雜的相關(guān)要素。

因此，選擇理想的合作伙伴亦左右著實時分析項目的最終命運。

總結(jié)

多數(shù)企業(yè)都擁有大量最終用戶接觸點，而當(dāng)下對此類組織以及政府機構(gòu)而言可謂決定性時刻。通過即時了解當(dāng)前狀況，各組織機構(gòu)將能夠讓自己的工作更加富有成效——而實時數(shù)據(jù)分析方案則給了它們一個將理想轉(zhuǎn)化為現(xiàn)實的選項!