近些年,大數(shù)據(jù)已經(jīng)和云計(jì)算一樣,成為時(shí)代的話題。大數(shù)據(jù)是怎么產(chǎn)生的,商業(yè)機(jī)會(huì)在哪?研究機(jī)會(huì)在哪?這個(gè)概念孕育著一個(gè)怎樣的未來(lái)?
昨天在車(chē)庫(kù)咖啡參加了一個(gè)小型的研討活動(dòng),就這些問(wèn)題進(jìn)行了一些討論,我結(jié)合自己的一些理解做一個(gè)總結(jié)。
首先,大數(shù)據(jù)是怎么產(chǎn)生的?
1)物理世界的信息大量數(shù)字化產(chǎn)生的
例如劉江老師指出的好大夫網(wǎng),將醫(yī)生的信息,門(mén)診的信息等數(shù)字化。其實(shí)還有很多,比如新浪微博將茶館聊天的行為(弱關(guān)系產(chǎn)生信息數(shù)字化),朋友聊天的行為數(shù)字化(強(qiáng)關(guān)系產(chǎn)生信息數(shù)字化)。視頻監(jiān)控探頭將圖像數(shù)字化。
2)社交網(wǎng)絡(luò)產(chǎn)生的
在雅虎時(shí)代,大量的都是讀操作,只有雅虎的編輯做一些寫(xiě)操作的工作。進(jìn)入web2.0時(shí)代,用戶數(shù)大量增加,用戶主動(dòng)提交了自己的行為。進(jìn)入了社交時(shí)代,移動(dòng)時(shí)代。大量移動(dòng)終端設(shè)備的出現(xiàn),用戶不僅主動(dòng)提交自己的行為,還和自己的社交圈進(jìn)行了實(shí)時(shí)的互動(dòng),因此數(shù)據(jù)大量的產(chǎn)生出來(lái),并且具有了極其強(qiáng)烈的傳播性。
3)數(shù)據(jù)都要保存所產(chǎn)生的
一位嘉賓指出,舊金山大橋保留了百年的歷史數(shù)據(jù),在時(shí)間跨度上產(chǎn)生了價(jià)值,很多網(wǎng)站在早期對(duì)數(shù)據(jù)的重視程度不夠,保存數(shù)據(jù)的代價(jià)很大,存儲(chǔ)設(shè)備的價(jià)格昂貴,但是時(shí)代變了,存儲(chǔ)設(shè)備便宜了,用戶自己產(chǎn)生的數(shù)據(jù)得到了重視,數(shù)據(jù)的價(jià)值被重視了。因此越來(lái)越多的數(shù)據(jù)被持續(xù)保存
其次,大數(shù)據(jù)和大規(guī)模數(shù)據(jù)的區(qū)別?
big data之前學(xué)術(shù)界叫very large data,大數(shù)據(jù)和大規(guī)模數(shù)據(jù)的差距是什么?我認(rèn)為在英文中l(wèi)arge的含義只是體積上的,而big的含義還包含重量上的,價(jià)值量上的。因此我認(rèn)為
1)大數(shù)據(jù)首先不是數(shù)量上的堆砌,而是具有很強(qiáng)的關(guān)聯(lián)性結(jié)構(gòu)性
比如有一種數(shù)據(jù),記錄了世界上每一顆大樹(shù)每年長(zhǎng)高的程度,這樣的數(shù)據(jù)不具有價(jià)值,因?yàn)橹皇呛?jiǎn)單堆砌。
如果數(shù)據(jù)變成,每一個(gè)大樹(shù)記錄它的,地點(diǎn),氣候條件,樹(shù)種,樹(shù)齡,周邊動(dòng)植物生態(tài),每年長(zhǎng)高的高度,那么這個(gè)數(shù)據(jù)就具有了結(jié)構(gòu)性。具有結(jié)構(gòu)性的數(shù)據(jù)首先具有極強(qiáng)的研究?jī)r(jià)值,其次極強(qiáng)的商業(yè)價(jià)值。
在比如,淘寶的數(shù)據(jù),如果只記錄一個(gè)交易的買(mǎi)家,賣(mài)家,成交物品,價(jià)格等信息,那么這個(gè)商業(yè)價(jià)值就很有限。淘寶包含了,買(mǎi)家間的社交關(guān)系,購(gòu)物前后的其他行為,那么這個(gè)數(shù)據(jù)將非常有價(jià)值。
因此,只有立體的,結(jié)構(gòu)性強(qiáng)的數(shù)據(jù),才能叫大數(shù)據(jù),才有價(jià)值,否則只能叫大規(guī)模數(shù)據(jù)。
2)大數(shù)據(jù)的規(guī)模一定要大,而且比大規(guī)模數(shù)據(jù)的規(guī)模還要大
要做一些預(yù)測(cè)模型需要很多數(shù)據(jù),訓(xùn)練語(yǔ)料,如果數(shù)據(jù)不夠大,很多挖掘工作很難做,比如點(diǎn)擊率預(yù)測(cè)。最直白的例子,如果你能知道一個(gè)用戶的長(zhǎng)期行蹤數(shù)據(jù),上網(wǎng)的行為,讀操作和寫(xiě)操作。那么幾乎可以對(duì)這個(gè)人進(jìn)行非常精準(zhǔn)的預(yù)測(cè),各種推薦的工作都能做到很精準(zhǔn)。
最后,大數(shù)據(jù)的機(jī)會(huì)在哪里?對(duì)小公司的機(jī)會(huì)在哪?
圍繞數(shù)據(jù)的整個(gè)產(chǎn)業(yè)鏈上,我認(rèn)為具有以下機(jī)會(huì)
1)數(shù)據(jù)的獲得
大量數(shù)據(jù)的獲得,這個(gè)機(jī)會(huì)基本屬于新浪微博等這類大企業(yè),大量交易數(shù)據(jù)的獲得,也基本屬于京東,淘寶這類企業(yè)。小企業(yè)基本沒(méi)機(jī)會(huì)獨(dú)立得到這些用戶數(shù)據(jù)。
2)數(shù)據(jù)的匯集
例如如果你要能把各大廠商,各大微博,政府各個(gè)部門(mén)的數(shù)據(jù)匯集全,這個(gè)機(jī)會(huì)將是極大的。
但,這個(gè)工作,做大了需要政府行為,做中檔了,要企業(yè)間合作,做小了,也許就是一個(gè)聯(lián)盟或者一個(gè)民間組織,比如中國(guó)爬盟。
3)數(shù)據(jù)的存儲(chǔ)
匯集了數(shù)據(jù)后,立即遇到的問(wèn)題就是存儲(chǔ),這個(gè)代價(jià)極大,原始數(shù)據(jù)不能刪除,需要保留。因此提供存儲(chǔ)設(shè)備的公司,執(zhí)行存儲(chǔ)這個(gè)角色的公司,都具有巨大的市場(chǎng)機(jī)會(huì),但是這也不屬于小公司,或者早期創(chuàng)業(yè)者。
4)數(shù)據(jù)的運(yùn)算
在存儲(chǔ)了數(shù)據(jù)以后,怎么把數(shù)據(jù)分發(fā)是個(gè)大問(wèn)題,各種API,各種開(kāi)放平臺(tái),都是將這些數(shù)據(jù)發(fā)射出去,提供后續(xù)的挖掘和分析工作,這個(gè)也需要有大資本投入,也不適合小公司。
5)數(shù)據(jù)的挖掘和分析
數(shù)據(jù)需要做增值服務(wù),否則數(shù)據(jù)就沒(méi)有價(jià)值,big也big不到哪里去,是沒(méi)有價(jià)值的big.因此這種數(shù)據(jù)分析和挖掘工作具有巨大的價(jià)值,這個(gè)機(jī)會(huì)屬于小公司,小團(tuán)體。
6)數(shù)據(jù)的使用和消費(fèi)
在數(shù)據(jù)做到了很好的挖掘和分析后,需要把這些結(jié)果應(yīng)用在一個(gè)具體的場(chǎng)合上,來(lái)獲得回報(bào),做數(shù)據(jù)挖掘和分析的公司,必須得找到這些金主才行,而這些金主肯定也不是小公司。
大數(shù)據(jù)未來(lái)的形態(tài),或者產(chǎn)業(yè)鏈結(jié)構(gòu)一定是分層的,巨大的,價(jià)值的體現(xiàn)發(fā)生在各個(gè)層次,每個(gè)層次都是生態(tài)鏈的重要一環(huán),都孕育著巨大的機(jī)遇和挑戰(zhàn),我們能做的唯有努力,做適合自己的工作。