大數(shù)據(jù)已經(jīng)成為一個如此普遍的流行詞,但有人認(rèn)為其幾乎是毫無意義的。
一名IT行業(yè)專家表示,其曾從事信息技術(shù)工作超過十年,并記得當(dāng)時訂購新的驅(qū)動器和存儲設(shè)備來處理文件和電子郵件,那時讀取上千兆字節(jié)的信息,當(dāng)時以為這樣大量的數(shù)據(jù)就是大數(shù)據(jù)。
經(jīng)過七年職業(yè)生涯的變遷,這個IT專家就職于亞馬遜公司,并在他們的數(shù)據(jù)倉庫中運行SQL查詢。該數(shù)據(jù)庫的范圍之廣,讓其甚至花費一個星期的時間匯總數(shù)據(jù),而無需再采用Excel表格。他以為明白了什么是大數(shù)據(jù),但事實證明,并沒有任何線索。
大數(shù)據(jù)如此普遍已經(jīng)成為一個流行詞,但它幾乎是毫無意義的。在一次聚會上,這位專家聽到有人說,“每家公司都是一家大數(shù)據(jù)公司。”并讓他解釋時,他說,如今每家公司都在購買和銷售大數(shù)據(jù)。這位專家認(rèn)為雖然所有的公司都可以使用大數(shù)據(jù)或基于大數(shù)據(jù)的應(yīng)用程序,但并不是所有的公司都立足于他們的商業(yè)模式。他認(rèn)為在其職業(yè)生涯被這種誤解迷惑過,因此,他分享了一些自己的誤解。
以下是IT高層管理者對于大數(shù)據(jù)六個最大的誤解和錯覺:
1.所有的數(shù)據(jù)是大數(shù)據(jù)。
調(diào)查機(jī)構(gòu)Gartner公司稱,大數(shù)據(jù)必須是大容量,高速度或多樣化的各種數(shù)據(jù)。這意味著,如果你的數(shù)據(jù)只是處理容納一個Excel文件,那么你不是在處理大數(shù)據(jù)。如果你只處理測量千兆字節(jié)的數(shù)據(jù)集,并采用個人電腦能處理,那么你不是在處理大數(shù)據(jù)。也許你正在處理數(shù)千兆字節(jié)電子郵件,而你不知道如何處理它,但這并不意味著它是大數(shù)據(jù)。
2.大數(shù)據(jù)解決每一個問題。
一些高管認(rèn)為大數(shù)據(jù)可以解決一切問題。他們中的許多人都掌握大數(shù)據(jù)分析來解決問題,而不是使用常識。有一次行業(yè)專家和IT高管們試圖找出為什么其網(wǎng)站訪問人數(shù)和銷售在四月的一個星期期間急劇下跌,前一年同一周沒有經(jīng)歷過同樣的下降。他們要求進(jìn)行分析,在分析之后,直到有人說,“嗯,我們每年都看到網(wǎng)站數(shù)據(jù)在復(fù)活節(jié)減少,而去年復(fù)活節(jié)是在三月。”大數(shù)據(jù)和分析沒有幫助我們弄清這一點,但通過社會常識和日歷卻可以弄明白。
3.大數(shù)據(jù)是沒有意義的。
關(guān)于大數(shù)據(jù)的“一切”錯誤觀念的另一面是:大數(shù)據(jù)并不重要。這個觀點可以更容易理解,因為大數(shù)據(jù)的定義表明,它很難處理和理解。如果你不能從大數(shù)據(jù)中洞察見解或用它來為你的系統(tǒng)提供益處,那確實是毫無意義的。而有著這樣觀點的IT管理人員雖然了解大數(shù)據(jù),卻從未從中學(xué)到了什么。
為了讓大數(shù)據(jù)變得有意義,你需要能夠處理和使用它,其大數(shù)據(jù)的公司能夠更方便實施。這些公司通過收集,清洗起來,組織數(shù)據(jù),并通過數(shù)據(jù)科學(xué)家或其他系統(tǒng)可處理,并輸出其方式。一旦數(shù)據(jù)科學(xué)家從數(shù)據(jù)是分析出信息,或者公司的系統(tǒng)使用的數(shù)據(jù)來執(zhí)行類似的供應(yīng)鏈業(yè)務(wù)運營,那么公司高管將開始看到大數(shù)據(jù)的價值。
4.大數(shù)據(jù)是很容易的。
不幸的是,這是一個常見的誤解。讓我們看看在世界上的每一個產(chǎn)品的有關(guān)信息和定價(免責(zé)聲明:這是我的公司做的),例如。對于一個單一的產(chǎn)品來說,例如一雙鞋,人們需要收集以下數(shù)據(jù):
•品牌
•類別
•樣式
•顏色
•鞋跟的高度
•材料
•尺寸
•寬度
•出售它的商店
•在這些商店的價格
•隨著時間的推移,這些商店的價格
•每次看價格時,其庫存如何
這是數(shù)學(xué):查詢數(shù)據(jù)庫表明,11家不同的零售商在銷售同一款,同一顏色的這雙鞋。讓我們假設(shè)正在收集一年中,每個商店銷售這款鞋每周的價格和庫存數(shù)據(jù)。這意味著我們有這雙鞋的572條記錄。如果我們想要追蹤春定價和庫存信息,其中包括所有16個女鞋的尺寸,這個數(shù)字將是9152條。這只是針對一雙鞋收集的數(shù)據(jù),而在商店鞋柜里的每一雙都會創(chuàng)造更多的數(shù)據(jù)點。
增加的復(fù)雜性,在高需求的時間和促銷時間收集的價格數(shù)據(jù)往往比每周一次收集還要多。每日價格和庫存信息將意味著一雙鞋子有著4015個數(shù)據(jù)點。亞馬遜網(wǎng)站將添加描述這些產(chǎn)品的信息和每個尺寸,以及其對應(yīng)的不同的價格。因此一雙鞋的數(shù)據(jù)迅速膨脹。想象一下,在這個時代,多達(dá)數(shù)十億的產(chǎn)品信息,將其放到你的電子表格中。因此,傳統(tǒng)的收集和分析系統(tǒng)將面臨大數(shù)據(jù)的規(guī)模的嚴(yán)峻挑戰(zhàn)。
5.不完美的大數(shù)據(jù)是無用的。
這個錯誤讓人瘋狂的,因為完美的尺度基本上是不可能的。例如,IT部門試圖實現(xiàn)讓10億個具有520個數(shù)據(jù)點的產(chǎn)品保持一個讓人夢寐以求的“五個九”的完美標(biāo)準(zhǔn)(99.999%)。那么在此數(shù)據(jù)集中,仍然會有5200萬個不正確的數(shù)據(jù)點。
大數(shù)據(jù)很少達(dá)到這種完美的原因很多。許多大的數(shù)據(jù)來源是遠(yuǎn)遠(yuǎn)不夠完善。亞馬遜公司作為抓取大數(shù)據(jù)來源之一的網(wǎng)站,很可能在產(chǎn)品名稱產(chǎn)生拼寫錯誤。大數(shù)據(jù)也需要建立和組織其機(jī)器學(xué)習(xí)和算法;在產(chǎn)品數(shù)據(jù)的世界里,這些可以很容易地根據(jù)標(biāo)題或名稱錯誤將產(chǎn)品進(jìn)行分類。
缺陷并不表明無用,但。一個有能力的數(shù)據(jù)分析師可以去除異常,并從大數(shù)據(jù)中拔出重要的見解,即使有很多缺陷。開發(fā)人員可以添加過濾器,減少進(jìn)入你的系統(tǒng)的錯誤,,并制定龐大的數(shù)據(jù)集,這將提高數(shù)據(jù)質(zhì)量隨著時間的推移訓(xùn)練算法。其中大數(shù)據(jù)的一個最大好處是,可以彌補(bǔ)偶爾缺陷,讓你獲得更好的見解。
6.只有大公司需要大數(shù)據(jù)。
小型營銷企業(yè)需要網(wǎng)站的流量和關(guān)鍵字搜索的數(shù)字。小型購物公司需要盡可能多地鏈接聯(lián)盟計劃的大型零售商的產(chǎn)品,按需交付服務(wù),并需要可靠的位置數(shù)據(jù)。這只是那些需要大數(shù)據(jù)的小型公司的一小部分。
大型公司可能會產(chǎn)生更多的自己的大數(shù)據(jù),但幾乎每家公司都在現(xiàn)代經(jīng)濟(jì)使用上構(gòu)建了大數(shù)據(jù)或應(yīng)用程序。這意味著所有的企業(yè)可以獲得訪問見解和信息,并獲得這些龐大的數(shù)據(jù)集提供的好處,而無需建立和管理創(chuàng)建和分析大數(shù)據(jù)所需的基礎(chǔ)設(shè)施。
如今,無論企業(yè)規(guī)模如何,都不可回避地采用大數(shù)據(jù)業(yè)務(wù)。希望了解這些,可以消除誤解和錯覺。畢竟,我們生活在大數(shù)據(jù)世界中。如果管理人員更好地理解復(fù)雜性,陷阱和大數(shù)據(jù)的能力,他們會更好地運行業(yè)務(wù),做出更好的決策。