得益于IT信息技術(shù)的快速進(jìn)步,人類(lèi)可以隨時(shí)隨地記錄下產(chǎn)生的各類(lèi)數(shù)據(jù),而同時(shí)數(shù)據(jù)存儲(chǔ)的成本也正以前所未有的速度下降,一個(gè)大數(shù)據(jù)的時(shí)代在悄然來(lái)臨。根據(jù)IDC預(yù)測(cè),全球在2010年正式進(jìn)入ZB時(shí)代,全球數(shù)據(jù)量大約每?jī)赡攴环馕吨祟?lèi)在最近兩年產(chǎn)生的數(shù)據(jù)量相當(dāng)于之前產(chǎn)生的全部數(shù)據(jù)量。爆炸式增長(zhǎng)的數(shù)據(jù),正推動(dòng)人類(lèi)進(jìn)入大數(shù)據(jù)的時(shí)代。
大數(shù)據(jù)是飛速增長(zhǎng)的,用現(xiàn)有數(shù)據(jù)庫(kù)管理工具難以管理所有的數(shù)據(jù)集合。這些數(shù)據(jù)包括:社交媒體、移動(dòng)設(shè)備、科學(xué)計(jì)算和城市中部署的各類(lèi)傳感器等等,其中視頻又是構(gòu)成數(shù)據(jù)體量最大的一部分。在視頻監(jiān)控大聯(lián)網(wǎng)、高清化推動(dòng)下,視頻監(jiān)控業(yè)務(wù)步入數(shù)據(jù)洪水時(shí)代不可避免。如圖1所示。
視頻監(jiān)控 數(shù)據(jù)為“大”
視頻監(jiān)控?cái)?shù)據(jù)有兩個(gè)方面的內(nèi)涵——海量和非結(jié)構(gòu)化。視頻監(jiān)控?cái)?shù)據(jù)量規(guī)模龐大,并且隨著高清化、超高清化的趨勢(shì)加強(qiáng),視頻監(jiān)控?cái)?shù)據(jù)規(guī)模將以更快的指數(shù)級(jí)別增長(zhǎng);與通常講的結(jié)構(gòu)化數(shù)據(jù)不同,視頻監(jiān)控業(yè)務(wù)產(chǎn)生的數(shù)據(jù)絕大多數(shù)以非結(jié)構(gòu)化的數(shù)據(jù)為主,這給傳統(tǒng)的數(shù)據(jù)管理和使用機(jī)制帶來(lái)了極大的挑戰(zhàn)。
數(shù)據(jù)“洪水”帶給視頻監(jiān)控的困境
飛速增長(zhǎng)的視頻監(jiān)控?cái)?shù)據(jù),使得傳統(tǒng)視頻監(jiān)控體系架構(gòu)、數(shù)據(jù)的管理方式、數(shù)據(jù)分析應(yīng)用等面臨新的困境。如圖2所示。
視頻監(jiān)控 數(shù)據(jù)為“大”
困境一,數(shù)據(jù)量的急劇擴(kuò)大和IT投資之間的矛盾。按照IT產(chǎn)業(yè)的法則:在滿足客戶(hù)需求的前提之下,往往技術(shù)成本越低,其生命力越強(qiáng)。由于數(shù)據(jù)量的急速擴(kuò)大,以及隨之而來(lái)的大規(guī)模計(jì)算的需求越來(lái)越多,一味采用高配硬件,使得硬件投資成為客戶(hù)不可承受之重,客戶(hù)越來(lái)越希望在滿足需求的前提下,用中低端的硬件來(lái)替換高配硬件。
困境二,海量數(shù)據(jù)和有效數(shù)據(jù)之間的矛盾。攝像頭7×24小時(shí)工作,如實(shí)記錄鏡頭覆蓋范圍發(fā)生的一切,僅僅記錄信息是不夠的,因?yàn)閷?duì)于客戶(hù)來(lái)講可能大部分信息是無(wú)效,有效信息可能只分布在一個(gè)較短的時(shí)間段內(nèi),按照數(shù)學(xué)統(tǒng)計(jì)的說(shuō)法,信息是呈現(xiàn)冪律分布的,也稱(chēng)之為信息的密度,往往越高密度的信息對(duì)客戶(hù)價(jià)值越大。
困境三,資源利用和效率之間的矛盾,串行計(jì)算和并行計(jì)算的矛盾。視頻監(jiān)控業(yè)務(wù)網(wǎng)絡(luò)化、大聯(lián)網(wǎng)后,網(wǎng)絡(luò)內(nèi)的設(shè)備越來(lái)越多,利用閑置的計(jì)算資源,實(shí)現(xiàn)資源的最大化利用,關(guān)乎運(yùn)算的效率。在視頻監(jiān)控領(lǐng)域,往往視頻分析的效率決定價(jià)值,更低的延遲、更準(zhǔn)確的分析往往是平安城市這類(lèi)客戶(hù)的普遍需求。隨著數(shù)據(jù)量的增加,哪怕對(duì)TB級(jí)別的數(shù)據(jù)進(jìn)行對(duì)視頻內(nèi)容的數(shù)據(jù)分析和檢索,采用串行計(jì)算的模式都可能需要花費(fèi)數(shù)小時(shí)的計(jì)算,已遠(yuǎn)遠(yuǎn)不能勝任時(shí)效性的需求。視頻的分析和檢索,不能依賴(lài)于傳統(tǒng)的手段,巨量數(shù)據(jù)的效率優(yōu)化,并行計(jì)算是視頻智能分析的唯一出路。
因?yàn)榇髷?shù)據(jù)帶來(lái)了很多現(xiàn)實(shí)中的難題,為了解決這些難題需要新的技術(shù)變革,需要新一代的數(shù)據(jù)庫(kù)技術(shù),業(yè)界稱(chēng)之為大數(shù)據(jù)技術(shù)。IDC這樣定義大數(shù)據(jù)技術(shù):大數(shù)據(jù)技術(shù)將被設(shè)計(jì)用于在成本可承受(economically)的條件下,通過(guò)非??焖?velocity)的采集、發(fā)現(xiàn)和分析,從大量化(volumes)、多類(lèi)別(variety)的數(shù)據(jù)中提取價(jià)值(value),將是IT領(lǐng)域新一代的技術(shù)與架構(gòu)的變革。Hadoop技術(shù)正是在此背景下誕生,歷經(jīng)數(shù)年的積累,Hadoop已成長(zhǎng)為一個(gè)強(qiáng)大的生態(tài)系統(tǒng),不但衍生出HDFS、HBase、Hive等多個(gè)子項(xiàng)目,成為IT領(lǐng)域廣泛采用的大數(shù)據(jù)模型框架。
大數(shù)據(jù)技術(shù)和視頻監(jiān)控業(yè)務(wù)的融合
視頻監(jiān)控業(yè)務(wù)正是一個(gè)典型的數(shù)據(jù)依賴(lài)型業(yè)務(wù),依靠數(shù)據(jù)說(shuō)話??梢哉f(shuō),大數(shù)據(jù)與視頻監(jiān)控業(yè)務(wù)有著天然的結(jié)合。綜合來(lái)看,大數(shù)據(jù)與視頻監(jiān)控業(yè)務(wù)的結(jié)合主要體現(xiàn)在“存”、“看”、“用”上。如圖3所示。
視頻監(jiān)控 數(shù)據(jù)為“大”
“閃存”:如果類(lèi)比水庫(kù)蓄水的方式,典型的網(wǎng)絡(luò)視頻監(jiān)控?cái)?shù)據(jù)存儲(chǔ)模型是一個(gè)由小溪匯聚河流、再匯聚到水庫(kù)的蓄水方式。小溪數(shù)量增多、水量增大是水庫(kù)蓄水量的保證,然而傳統(tǒng)方式下蓄水量增大將提高水庫(kù)建造成本和蓄水安全的要求。而采用分布式蓄水模式,在河流中游建立多個(gè)中間蓄水池,不僅可以減少主水庫(kù)蓄水壓力和成本,化整為零也提高了就近用水效率。在大數(shù)據(jù)技術(shù)支撐下,網(wǎng)絡(luò)視頻監(jiān)控?cái)?shù)據(jù)存儲(chǔ)模型可轉(zhuǎn)向分布式的數(shù)據(jù)存儲(chǔ)體系,提供高效、安全、廉價(jià)的存儲(chǔ)方式。
“易看”:在視頻監(jiān)控業(yè)務(wù)中,錯(cuò)看漏看、來(lái)不及看等是常見(jiàn)的困擾點(diǎn)。大數(shù)據(jù)監(jiān)控圖像的回溯給許多安防監(jiān)控管理人員帶來(lái)了生理與心理的雙重挑戰(zhàn)。在大量人力投入的公安案件追溯中,都常常耳聞“看到吐”、“看到暈”等無(wú)奈和感嘆??上攵话懔闶坌袠I(yè)、金融行業(yè)等,對(duì)于視頻監(jiān)控圖像的回溯就更為困難。在視頻監(jiān)控大數(shù)據(jù)趨勢(shì)已經(jīng)來(lái)臨之際,依靠人眼去檢索、查看所有視頻圖像數(shù)據(jù)已經(jīng)不太現(xiàn)實(shí)。通過(guò)大數(shù)據(jù)技術(shù)實(shí)現(xiàn)視頻圖像模糊查詢(xún)、快速檢索、精準(zhǔn)定位,讓看變得簡(jiǎn)單迫在眉睫。
“善用”:視頻監(jiān)控業(yè)務(wù)中,看只是信息采集的方式之一,用才是業(yè)務(wù)應(yīng)用的根本。視頻監(jiān)控業(yè)務(wù)的效率問(wèn)題已經(jīng)成為阻礙產(chǎn)業(yè)發(fā)展的關(guān)鍵瓶頸。
隨著視頻監(jiān)控?cái)z像機(jī)覆蓋廣度、密度增大,視頻圖像數(shù)據(jù)量呈指數(shù)級(jí)上升,而視頻監(jiān)控?cái)?shù)據(jù)的使用效率卻在下降。智能交通應(yīng)用、消費(fèi)者行為分析應(yīng)用等綜合視頻監(jiān)控和圖像智能分析的業(yè)務(wù)出現(xiàn),正努力突破視頻監(jiān)控效率值及商業(yè)價(jià)值低下的瓶頸。通過(guò)大數(shù)據(jù)技術(shù),進(jìn)一步挖掘海量視頻監(jiān)控?cái)?shù)據(jù)背后的價(jià)值信息,快速反饋內(nèi)涵知識(shí)輔助決策判斷是將視頻監(jiān)控用好、用善的金鑰匙。
面向大數(shù)據(jù)的視頻監(jiān)控體系架構(gòu)
視頻監(jiān)控業(yè)務(wù)的核心就是數(shù)據(jù),數(shù)據(jù)就是業(yè)務(wù)本身,那么基于大數(shù)據(jù)架構(gòu),可以給中大型的視頻監(jiān)控項(xiàng)目帶來(lái)諸多的裨益。
第一,架構(gòu)更加靈活,伸縮彈性更大。對(duì)于一些中大型項(xiàng)目,由于起點(diǎn)的差異,缺乏視頻監(jiān)控架構(gòu)的頂層設(shè)計(jì),后期的擴(kuò)容升級(jí)難免尾大不掉,如在建設(shè)初期就引入面向大數(shù)據(jù)的架構(gòu),為業(yè)務(wù)擴(kuò)張和管理帶來(lái)好處。
第二,以廉價(jià)通用硬件迎合視頻監(jiān)控?cái)?shù)據(jù)的爆發(fā)性增長(zhǎng)。在面向大數(shù)據(jù)的架構(gòu)中,可根據(jù)視頻監(jiān)控業(yè)務(wù)的部署需要,設(shè)立多個(gè)HDFS集群組成,采集的流數(shù)據(jù)會(huì)被劃分成段,并分布于數(shù)據(jù)節(jié)點(diǎn),這些數(shù)據(jù)節(jié)點(diǎn)可以采用廉價(jià)通用型的硬件,由軟件技術(shù)保證其高可靠性,這種方式避免采用傳統(tǒng)高端硬件的模式,大大降低投資成本。
第三,通過(guò)高速并行計(jì)算實(shí)現(xiàn)智能分析和數(shù)據(jù)挖掘。對(duì)于金礦來(lái)講,唯有熠熠發(fā)光的金子才有價(jià)值,視頻監(jiān)控?cái)?shù)據(jù)就猶如這樣一座金礦,傳統(tǒng)人工和串行的數(shù)據(jù)篩選方式已在大數(shù)據(jù)時(shí)代不能滿足要求。面向大數(shù)據(jù)的架構(gòu)原理就是將海量數(shù)據(jù)分解為較小的更易訪問(wèn)的批量數(shù)據(jù),在多臺(tái)服務(wù)器上并行分析處理,從而大大加快視頻數(shù)據(jù)的處理進(jìn)程。
大數(shù)據(jù)視頻監(jiān)控構(gòu)架帶來(lái)的價(jià)值
大數(shù)據(jù)視頻架構(gòu)是革命性的技術(shù),特別在實(shí)時(shí)智能分析和數(shù)據(jù)挖掘方面,讓視頻監(jiān)控從人工抽檢,進(jìn)步到高效事前預(yù)警、事后分析,實(shí)現(xiàn)智能化的信息分析、預(yù)測(cè),為視頻監(jiān)控領(lǐng)域業(yè)務(wù)帶來(lái)深刻的變革:
平安城市領(lǐng)域,實(shí)時(shí)匯總并綜合分析各種公共安全數(shù)據(jù)和資料,為執(zhí)法人員快速準(zhǔn)確應(yīng)對(duì)提供科學(xué)依據(jù):如實(shí)時(shí)調(diào)閱現(xiàn)場(chǎng)視頻錄像、犯罪嫌疑人記錄、同一地區(qū)的相似案件資料;進(jìn)行地理、時(shí)間和空間的比較分析,揭示其犯罪模式和行為模式;追蹤嫌疑人與其車(chē)輛的位置等。指揮人員也可以參照各種數(shù)據(jù)對(duì)不同來(lái)源的資料進(jìn)行綜合分析,制作指揮圖。
智能交通行業(yè),可以輕松監(jiān)控?cái)z像覆蓋范圍內(nèi)的所有車(chē)輛的行駛狀態(tài)、運(yùn)行軌跡,快速分析出其是否違章,通過(guò)對(duì)海量交通數(shù)據(jù)的比對(duì)、分析和研判,實(shí)現(xiàn)指定車(chē)輛行駛路徑、道路擁堵研判等功能。
云服務(wù)領(lǐng)域,實(shí)現(xiàn)基于大數(shù)據(jù)的視頻監(jiān)控云服務(wù),讓攝像機(jī)僅通過(guò)互連網(wǎng)就能連接云端的視頻監(jiān)控托管服務(wù),通過(guò)快速、智能的分析部署在云端的大數(shù)據(jù),為小型企業(yè)、零售商店、餐館酒店等提供實(shí)時(shí)監(jiān)控視頻和潛在風(fēng)險(xiǎn)管理,甚至能提供收費(fèi)的基于視頻內(nèi)容的分析報(bào)告,如日常的客戶(hù)數(shù),平均隊(duì)列長(zhǎng)度等,創(chuàng)造新的商業(yè)模式。
結(jié)束語(yǔ)
視頻監(jiān)控進(jìn)入網(wǎng)絡(luò)化時(shí)代以后,越來(lái)越多融入IT新興技術(shù),大數(shù)據(jù)技術(shù)在視頻監(jiān)控領(lǐng)域的廣闊發(fā)展路徑已經(jīng)顯現(xiàn),華為正致力于把大數(shù)據(jù)技術(shù)和視頻監(jiān)控業(yè)務(wù)相互融合,打造大數(shù)據(jù)時(shí)代的視頻監(jiān)控解決方案。