大數(shù)據(jù)成最新挑戰(zhàn) 傳統(tǒng)業(yè)務(wù)形態(tài)受沖擊

責(zé)任編輯:hli

2012-06-15 07:24:18

摘自:中國軟件網(wǎng)

在大數(shù)據(jù)時代,傳統(tǒng)的業(yè)務(wù)模式已經(jīng)不能適合新形勢的發(fā)展要求,一次大變革已經(jīng)悄然拉開序幕。

前言:在大數(shù)據(jù)時代,傳統(tǒng)的業(yè)務(wù)模式已經(jīng)不能適合新形勢的發(fā)展要求,一次大變革已經(jīng)悄然拉開序幕。

在日前舉行的2012 Teradata天睿公司大數(shù)據(jù)分析方案研討會上,Teradata高級解決方案顧問李向前對IT專家網(wǎng)記者表示,由于SQL和MapReduceSQL各自的缺陷和優(yōu)勢,二者都無法獨立承擔(dān)大數(shù)據(jù)分析的重任,綜合二者之長的SQL-MapReduce,才是大數(shù)據(jù)分析的趨勢。

Teradata認為,當(dāng)前非結(jié)構(gòu)化的數(shù)據(jù)增長更快,每天都產(chǎn)生大量的數(shù)據(jù),分析的豐富程度也在增加。因此,大數(shù)據(jù)的分析,需要一個快速的、簡單的、scale-up的分析平臺。

李向前表示,首先,在大數(shù)據(jù)時代,傳統(tǒng)的SQL已經(jīng)不能滿足所有的業(yè)務(wù)需求,一些查詢不靈活、不直觀或者很難準(zhǔn)確表述,且DB系統(tǒng)會選擇一個較差的執(zhí)行計劃執(zhí)行,效率低下。其次,傳統(tǒng)的UDF存在一定的缺陷,運算函數(shù)非常有限,表函數(shù)無法做到并行處理,固定的schema限制了重復(fù)使用。第三,大數(shù)據(jù)分析的需求可能用RDBMS無法滿足。

正式由于上述原因,在大數(shù)據(jù)成為最新挑戰(zhàn)的今天,始建于2011年在谷歌執(zhí)行一個大數(shù)據(jù)處理的Map/Reduce系統(tǒng)逐漸受到關(guān)注。Map/Reduce是一種并行編程模式,定義有Map/Reduce兩個函數(shù),并且獨立于任何特定的實現(xiàn)。MapReduce可以擴展支持到非常大的數(shù)據(jù)規(guī)模,克服了傳統(tǒng)數(shù)據(jù)倉庫擴展性限制和難以表達等問題,已經(jīng)被很多知名的數(shù)據(jù)規(guī)模比較大的互聯(lián)網(wǎng)公司使用;MapReduce還提供高效的編程模式,簡單、移動,并實現(xiàn)最大程度的并行。

然而,Teradata認為,MapReduce有一個致命的弱點,即非常依賴于編程實現(xiàn)。這意味著,MapReduce很難重復(fù)使用,隨著新的業(yè)務(wù)問題不斷的出現(xiàn),都需要重新編碼,這無疑加大了使用難度和工作量,也間接增加了企業(yè)的投入成本。

李向前表示,彌補代溝的最佳選擇是SQL-MapReduce.

SQL/MapReduce(簡稱SQL/MR)是Aster Data的一個框架,支持當(dāng)前流行的Java和C預(yù)言,用戶可以將代碼安裝在nCluster中,可以在數(shù)據(jù)庫中由SQL調(diào)用,系統(tǒng)將自動并行執(zhí)行。

李向前介紹,SQL/MR以“21世紀(jì)的UDF(a UDF for21st century)”為目標(biāo),致力于提供良好的可擴展性,友好的分析界面和開發(fā)界面。

可擴展性:非常容易讓數(shù)百臺服務(wù)器的硬件資源發(fā)揮作用;容錯性由系統(tǒng)自動處理。

分析界面:分析師可以用類似SQL語言靈活表述;開發(fā)人員開發(fā)被分析師廣泛使用的工具;查詢的語義無需與具體的實現(xiàn)方式混合在一起。

開發(fā)界面:簡單易懂的編程模式;便捷的開發(fā)平臺服務(wù),開發(fā)人員盡可能自由發(fā)揮。

Aster Data是Teradata收購獲得的資產(chǎn)。為將不同渠道的數(shù)據(jù)放在一起,并且充分利用傳統(tǒng)SQL的作用,Aster Data提供了一個支持行列混合存儲的機制,并且結(jié)構(gòu)化數(shù)據(jù)與非結(jié)構(gòu)化數(shù)據(jù)可以分開存儲,聚合分析,其底層有一個高速互聯(lián)的連接器。

簡言之,從各種各樣類型的數(shù)據(jù)中,快速獲得有價值信息的能力,就是大數(shù)據(jù)技術(shù)。明白這一點至關(guān)重要,也正是這一點促使該技術(shù)具備走向眾多企業(yè)的潛力。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號