如何讓安防大數(shù)據(jù)擺脫好事多磨的窘境

責(zé)任編輯:王李通

2014-06-03 14:14:28

摘自:中關(guān)村在線

隨著IT技術(shù)的發(fā)展,大數(shù)據(jù)時(shí)代正在IT行業(yè)內(nèi)如火如荼的開展著,然而安防行業(yè)卻只有一只腳邁入了大數(shù)據(jù)時(shí)代。

隨著IT技術(shù)的發(fā)展,大數(shù)據(jù)時(shí)代正在IT行業(yè)內(nèi)如火如荼的開展著,然而安防行業(yè)卻只有一只腳邁入了大數(shù)據(jù)時(shí)代。都說好事多磨,那么阻礙著安防行業(yè)真正進(jìn)入大數(shù)據(jù)時(shí)代的那些“磨難”都有什么?安防大數(shù)據(jù)又該如何擺脫好事多磨的窘境?本期欄目,就讓我們來探討一下這些問題。

一、大數(shù)據(jù)的今天

1、應(yīng)用領(lǐng)域

智能交通

在安防行業(yè)內(nèi),大數(shù)據(jù)可進(jìn)行交通分析,即通過對(duì)交通卡口采集的海量過車記錄進(jìn)行分析,發(fā)現(xiàn)車輛的行車軌跡,發(fā)現(xiàn)異常行為,為案件研判、交通誘導(dǎo)等提供信息支撐。

平安城市

英我們所居住的城市中有無數(shù)的高清攝像頭,涉及治安監(jiān)控、指揮通信、偵查破案、規(guī)范執(zhí)法、社會(huì)服務(wù)等,視頻接入規(guī)模從幾千到幾十萬,每天產(chǎn)生海量數(shù)據(jù)。

卡口

目前大數(shù)據(jù)在安防行業(yè)內(nèi)應(yīng)用較多的主要還是針對(duì)卡口方面的應(yīng)用,如碰撞分析、隨車分析、假牌套**、初次入城分析等等,這些應(yīng)用應(yīng)該說是在實(shí)踐中有明確和迫切需要的,且應(yīng)用起來還是很有效的。

公安執(zhí)法

此外,大數(shù)據(jù)不但可為公安偵查提供人、車、物和時(shí)空的相關(guān)性,在這些信息的分析和比對(duì)中發(fā)現(xiàn)有價(jià)值的線索信息;同時(shí)還可利用數(shù)據(jù)分析進(jìn)行事前預(yù)警防范,如人臉識(shí)別比對(duì)系統(tǒng),通過搭建人臉識(shí)別比對(duì),建立人臉捕捉數(shù)據(jù)庫,將人臉信息歸檔,并與個(gè)人身份建立關(guān)系,在實(shí)際運(yùn)用過程中采用人臉?biāo)阉鳌⒑诿麊尾挤?、陌生人識(shí)別等多項(xiàng)智能分析技術(shù),大大提高視頻監(jiān)控的防范功效,可讓犯罪分子無可遁形。

2、大數(shù)據(jù)的組成及特征

在安防行業(yè),涉及的數(shù)據(jù)信息類型很多,以數(shù)據(jù)的結(jié)構(gòu)類型來看,包括各類非結(jié)構(gòu)化、結(jié)構(gòu)化及半結(jié)構(gòu)化信息。其中,非結(jié)構(gòu)化數(shù)據(jù)主要包括視頻錄像和圖片記錄,如監(jiān)控視頻錄像,報(bào)警錄像,摘要錄像,車輛卡口圖片,人臉抓拍圖片,報(bào)警抓拍圖片等;結(jié)構(gòu)化數(shù)據(jù)則包括報(bào)警記錄,系統(tǒng)日志記錄,運(yùn)維數(shù)據(jù)記錄,摘要分析結(jié)構(gòu)化描述記錄,以及各種相關(guān)的信息數(shù)據(jù)庫,如人口信息,地理數(shù)據(jù)信息,車駕管信息等;半結(jié)構(gòu)化數(shù)據(jù)則如人臉建模數(shù)據(jù),指紋記錄等。

對(duì)IT大數(shù)據(jù)來說,其特征通常用4V(Velocity、Variety、Volume、Veracity)來概括,但對(duì)于安防大數(shù)據(jù)來說,它有自己獨(dú)特的特點(diǎn)。首先,安防大數(shù)據(jù)以非結(jié)構(gòu)化的視頻監(jiān)控?cái)?shù)據(jù)為主,因而它更側(cè)重于對(duì)非結(jié)構(gòu)化數(shù)據(jù)的信息分析、提取挖掘以及處理能力;其次,就數(shù)據(jù)容量而言,以視頻錄像為主的安防大數(shù)據(jù)對(duì)傳輸、存儲(chǔ)和計(jì)算過程中需要的帶寬以及存儲(chǔ)空間要求都更高;再次,以數(shù)據(jù)量基礎(chǔ)做比較,安防大數(shù)據(jù)中的信息價(jià)值密度更低,從海量的圖像信息中快速和準(zhǔn)確地檢測(cè)或者挖掘出有用信息的難度更大;最后,視頻監(jiān)控?cái)?shù)據(jù)7×24小時(shí)都在持續(xù)不斷地更新積累,其時(shí)效性更高。

3、應(yīng)用/實(shí)施狀況

截至目前,許多智能化功能和大數(shù)據(jù)應(yīng)用已在技術(shù)上得到實(shí)現(xiàn),主要包括入侵檢測(cè)、徘徊檢測(cè)、遺棄物檢測(cè)、人流統(tǒng)計(jì)、車流統(tǒng)計(jì)、車牌識(shí)別、視頻診斷等;此外還有未遂檢測(cè)、停止檢測(cè)、方向檢測(cè)、顏色識(shí)別等高級(jí)智能分析功能,這些技術(shù)正在廣泛地運(yùn)用于安防領(lǐng)域。而目前智能化的市場(chǎng)正在通過部分典型應(yīng)用進(jìn)行拓展,例如智能交通的車輛統(tǒng)計(jì)和車流分析、公共場(chǎng)所的人數(shù)統(tǒng)計(jì)和警戒設(shè)置、商鋪家居的常規(guī)防范等。隨著更多智能化功能的不斷完善,大數(shù)據(jù)的智能化處理正在從專業(yè)市場(chǎng)向民用及商業(yè)市場(chǎng)快速推進(jìn)。

二、安防大數(shù)據(jù)相關(guān)技術(shù)

大數(shù)據(jù)在安防行業(yè)的應(yīng)用使得安防更加智能化,大數(shù)據(jù)的技術(shù)一般分為數(shù)據(jù)采集、存儲(chǔ)、挖掘和計(jì)算(算法)技術(shù)。

處理分析工具

安防界大數(shù)據(jù)的處理和分析工具主要有兩類,一類是對(duì)視頻圖像等非結(jié)構(gòu)化信息的處理和分析工具,包括視頻智能分析工具、視頻摘要工具、圖像清晰化工具、視頻清晰化工具、視頻轉(zhuǎn)碼工具、視頻編輯工具等等;另一類則是對(duì)結(jié)構(gòu)化、半結(jié)構(gòu)化信息的大數(shù)據(jù)分析處理工具,此類處理和分析工具安防界吸取了IT界在處理大數(shù)據(jù)方面的架構(gòu)和經(jīng)驗(yàn),比較流行的如Hadoop,Spark大數(shù)據(jù)處理的框架,以及Mahout、R數(shù)據(jù)挖掘工具,以對(duì)結(jié)構(gòu)化和半結(jié)構(gòu)化的數(shù)據(jù)可以實(shí)現(xiàn)快速和準(zhǔn)確的數(shù)據(jù)分析和挖掘。

英特爾的理念是在端到端的安防行業(yè),全面實(shí)現(xiàn)數(shù)據(jù)價(jià)值的挖掘。所謂“端到端”,包括前端視頻采集、分析、存儲(chǔ)以及后端數(shù)據(jù)中心處理。區(qū)別于單個(gè)設(shè)備的解決方案,英特爾以其優(yōu)越的性能、靈活的設(shè)計(jì)為設(shè)備制造商和系統(tǒng)集成商提供整套系統(tǒng)化解決方案,從數(shù)據(jù)獲取、存儲(chǔ)、分析到應(yīng)用各個(gè)層面均有覆蓋。從硬件角度,英特爾提供的全系列處理器涵蓋入門級(jí)的凌動(dòng)、酷睿以及高性能的至強(qiáng)處理器,隨著夸克產(chǎn)品線的推出,在前端的應(yīng)用將更具性能功耗比優(yōu)勢(shì)。此外,英特爾聚焦于通過GPU進(jìn)行媒體處理工作負(fù)載的整合,如編解碼的硬件加速,從而實(shí)現(xiàn)更高密度的視頻流集成,使系統(tǒng)整體性能得到優(yōu)化。在軟件層面,英特爾擁有多種媒體處理工具,如異步IPP、媒體處理開發(fā)套件(Media SDK)以及Open CL開發(fā)套件。同時(shí),對(duì)于開源大數(shù)據(jù)基礎(chǔ)軟件Apache Hadoop,英特爾提供了很多算法上的優(yōu)化,還可根據(jù)客戶的特定業(yè)務(wù)需求對(duì)運(yùn)行Hadoop的基于英特爾至強(qiáng)系列芯片的服務(wù)器進(jìn)行硬件的深度優(yōu)化,為海量數(shù)據(jù)的存儲(chǔ)和處理提供靈活支持,使之更適用于交通和安防行業(yè)的應(yīng)用,合作伙伴也可在這個(gè)開放的平臺(tái)之上自如地融入自己的創(chuàng)新。

核心技術(shù)

在筆者問道大數(shù)據(jù)的核心技術(shù)是什么時(shí),受訪人不約而同地給出了同一個(gè)答案:智能分析。智能分析是安防大數(shù)據(jù)區(qū)別于IT大數(shù)據(jù)的根本點(diǎn),只有利用智能分析技術(shù)將安防大數(shù)據(jù)的非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù),才能將IT大數(shù)據(jù)成熟的技術(shù)體系應(yīng)用到安防大數(shù)據(jù)中,充分發(fā)揮安防大數(shù)據(jù)的作用。對(duì)于視頻圖像等非結(jié)構(gòu)化數(shù)據(jù)的分析和處理,目前可能更多地是把它歸屬到智能分析的范疇,這些技術(shù)很多已在初期應(yīng)用中不斷改進(jìn)和完善,很多更新的智能分析技術(shù)仍處在研發(fā)過程中,對(duì)這類數(shù)據(jù)的分析和處理也將成為安防大數(shù)據(jù)的核心價(jià)值點(diǎn)。日益豐富的智能算法將大大提高視頻監(jiān)控?cái)z像機(jī)的使用范圍和價(jià)值,處于應(yīng)用初級(jí)階段的智能視頻監(jiān)控,也將隨著智能算法的日益豐富而快速發(fā)展。而數(shù)字處理芯片、編解碼能力以及壓縮算法,是影響圖像處理技術(shù)的重要因素。安防智能化的核心還體現(xiàn)在VA(視頻分析或圖像分析),而VA需要底層算法的支持并運(yùn)用單元執(zhí)行,這可提高視頻分析的效率。

此外,對(duì)于大數(shù)據(jù)時(shí)代的安防行業(yè)來說,存儲(chǔ)技術(shù)同樣處于不可或缺的位置。他認(rèn)為,海量數(shù)據(jù)必須擁有能夠進(jìn)行可靠、可保證效率且擁有快速的讀寫以及響應(yīng)能力的存儲(chǔ)。

三、大數(shù)據(jù)成長(zhǎng)路上的“磨難”

對(duì)任何一個(gè)新事物來說,它在出現(xiàn)和發(fā)展過程中都不可能是一帆風(fēng)順的,安防大數(shù)據(jù)在其成長(zhǎng)路上又在經(jīng)歷著哪些“磨難”的考驗(yàn)?zāi)兀?/p>

數(shù)據(jù)共享問題

目前安防行業(yè)內(nèi)各系統(tǒng)以及各領(lǐng)域之間比較孤立,數(shù)據(jù)與數(shù)據(jù)之間并沒有互通,從而形成了一個(gè)個(gè)數(shù)據(jù)孤島,這導(dǎo)致各個(gè)系統(tǒng)按照大數(shù)據(jù)的方式使用起來比較困難。他認(rèn)為,如果利用云存儲(chǔ)技術(shù)對(duì)大數(shù)據(jù)進(jìn)行統(tǒng)一管理,把視頻與存儲(chǔ)進(jìn)行分離并做成一個(gè)通用的共享層,對(duì)安防大數(shù)據(jù)來說將不失為一大進(jìn)步。

篩選有效數(shù)據(jù)問題

眾所周知,以視頻監(jiān)控?cái)?shù)據(jù)為主的安防擁有著海量的數(shù)據(jù),然而,在這海量的數(shù)據(jù)中,可利用的、有價(jià)值的數(shù)據(jù)卻是少之又少的,如何在海量數(shù)據(jù)中高效地篩選出有效數(shù)據(jù)便成為一個(gè)非常困難的問題。如何在大數(shù)據(jù)中快速高效地篩選有效信息正是目前安防大數(shù)據(jù)技術(shù)發(fā)展的問題所在。他認(rèn)為,安防的數(shù)據(jù)量大,且傳統(tǒng)的安防多是事后查證,于是把所有有用無用的數(shù)據(jù)全存儲(chǔ)下來,其造成檢索查找不便。眾多廠商都在致力于探索如何從安防大數(shù)據(jù)中提取有價(jià)值的數(shù)據(jù)信息。

大數(shù)據(jù)的最終目標(biāo)是盡可能快速地利用各種數(shù)據(jù)來做出最好的決策。當(dāng)前需要高效篩選安防數(shù)據(jù),依然需要對(duì)安防監(jiān)控關(guān)注的業(yè)務(wù)對(duì)象進(jìn)行人工監(jiān)督的建模,基于業(yè)務(wù)對(duì)象建模反向指導(dǎo)數(shù)據(jù)采集匯聚與分析。當(dāng)前有兩種決策分析模型,一種是基于假設(shè)的模型,要關(guān)注哪些高價(jià)值數(shù)據(jù),關(guān)注相關(guān)領(lǐng)域的數(shù)據(jù),關(guān)注那些能夠提升效率的數(shù)據(jù);另一種模型就是一種不是基于假設(shè)的模型,是一種機(jī)器學(xué)習(xí)(如神經(jīng)網(wǎng)絡(luò)算法等)的模型,大數(shù)據(jù)帶來的變化是分析必須減少對(duì)于固有數(shù)據(jù)的依賴,分析模型將能夠根據(jù)數(shù)據(jù)流中的動(dòng)態(tài)數(shù)據(jù)自適應(yīng)。這種模型跟假設(shè)模型完全不同,兩種模型暫時(shí)無法相互替代。從長(zhǎng)期來看,一定會(huì)有更多的數(shù)據(jù)需要我們?nèi)リP(guān)注。對(duì)安防大數(shù)據(jù)來說,它能夠不斷增加安防監(jiān)控量,幫助我們基于數(shù)據(jù)做出更合理的決策,這是它的優(yōu)勢(shì)。他認(rèn)為,經(jīng)過長(zhǎng)時(shí)間數(shù)據(jù)和技術(shù)的發(fā)展,機(jī)器學(xué)習(xí)方式可能會(huì)取代假設(shè)模型。

安防廠商想要在大數(shù)據(jù)中快速高效地篩選出有效信息,需要兩個(gè)基礎(chǔ)來保證:于非結(jié)構(gòu)化信息的分析、識(shí)別和提取等處理要準(zhǔn)確和高效;對(duì)大量結(jié)構(gòu)化信息,或者半結(jié)構(gòu)化信息的綜合搜索要準(zhǔn)確和快速。因此,安防廠商首先需要提升對(duì)非結(jié)構(gòu)化信息的處理能力和效率,準(zhǔn)確和快速地處理視頻圖像、人臉特征建模等數(shù)據(jù),從里面提取出有用的信息,并且能夠進(jìn)行信息的某種表述,在大數(shù)據(jù)的存儲(chǔ)層面上完成數(shù)據(jù)信息的提取和存儲(chǔ)工作,以便進(jìn)行后續(xù)的數(shù)據(jù)信息檢索,分析和挖掘業(yè)務(wù)。其次,通過使用并且針對(duì)性地改進(jìn)目前的大數(shù)據(jù)處理技術(shù)以及平臺(tái)框架,提供針對(duì)安防數(shù)據(jù)信息的快速檢索機(jī)制,形成有針對(duì)性的海量安防數(shù)據(jù)信息處理架構(gòu),從這些大量的結(jié)構(gòu)化和半結(jié)構(gòu)化信息中進(jìn)行快速檢索和分析。

智能分析困難

在安防大數(shù)據(jù)中,如何對(duì)海量數(shù)據(jù)進(jìn)行智能分析是關(guān)鍵?,F(xiàn)階段,如何平衡網(wǎng)絡(luò)帶寬承載、降低系統(tǒng)存儲(chǔ)成本則成為處理海量數(shù)據(jù)的前提性要求。在實(shí)際應(yīng)用中,視頻圖像的分析處理需求日益增加,如車牌識(shí)別、人臉識(shí)別等,對(duì)圖像質(zhì)量提出了更高的要求,也對(duì)芯片的解碼能力提出了更大的挑戰(zhàn)。解決方案不單單是一個(gè)芯片就可以完成的,它是一個(gè)完整的架構(gòu)。

目前,數(shù)據(jù)分析往往在數(shù)據(jù)中心執(zhí)行,市場(chǎng)缺少一個(gè)端到端的計(jì)算架構(gòu),使不同攝像設(shè)備的關(guān)鍵信息被快速關(guān)聯(lián)起來,從而迅速、及時(shí)地進(jìn)行分析。如何有效提取高質(zhì)量的視頻信息以及實(shí)現(xiàn)更高效的數(shù)據(jù)中心智能搜索和分析正在成為業(yè)界的重要訴求。而在前端設(shè)備中使用更高性能、整合了GPU(圖形處理單元)的CPU(中央處理器)的芯片,通過相應(yīng)的開發(fā)工具使GPU和CPU的能力得到充分利用,可使前端視頻的解析更有效率;同時(shí),在后端使用對(duì)于開源或其它Apache Hadoop商用版(如Cloundera)深度優(yōu)化的至強(qiáng)系列服務(wù)器集群,可以合理地分配系統(tǒng)整體的計(jì)算資源,使圖像視頻處理及智能分析得以高效實(shí)現(xiàn)。

安防系統(tǒng)性能問題

安防大數(shù)據(jù)以視頻數(shù)據(jù)為主,然而視頻數(shù)據(jù)則對(duì)帶寬有著很高的要求,海量視頻數(shù)據(jù)的快速調(diào)取對(duì)高分辨率視頻數(shù)據(jù)的處理能力也有著很高的要求。目前安防行業(yè)對(duì)圖像信息的分析處理過程中,應(yīng)用的性能瓶頸雖然會(huì)出現(xiàn)在計(jì)算層面,但對(duì)于大容量的數(shù)據(jù)上傳而言,下載和調(diào)度也是一個(gè)重要的瓶頸。

數(shù)據(jù)安全問題

在IT行業(yè)中,數(shù)據(jù)安全問題很是令人擔(dān)憂的,這個(gè)問題在安防行業(yè)內(nèi)同樣不容忽視。大華王海豐認(rèn)為數(shù)據(jù)安全問題主要分為三個(gè)方面:數(shù)據(jù)丟失、數(shù)據(jù)篡改以及數(shù)據(jù)泄露。針對(duì)這些問題,除了可采用多副本存儲(chǔ)、算法容錯(cuò)技術(shù)之外,還可采用視頻水印及進(jìn)行信道加密、存儲(chǔ)加密、數(shù)據(jù)加密技術(shù)等。

對(duì)于安防領(lǐng)域而言,數(shù)據(jù)量大,圖像信息蘊(yùn)含的信息量更多,且還涉及到個(gè)人隱私,公共安全等問題。所以,在系統(tǒng)安全方面更不容忽視。在安防領(lǐng)域,由于其公共安全的特性,除一般的如采用信息加密、傳輸加密、數(shù)據(jù)冗余、安全賬號(hào)控制、系統(tǒng)安全檢測(cè)、入侵檢測(cè)等信息數(shù)據(jù)安全措施外,更需要一些特殊保護(hù)措施。如從法規(guī)層面的保護(hù),即涉及個(gè)人隱私和公共安全視頻信息的使用和控制,要加強(qiáng)對(duì)重點(diǎn)領(lǐng)域敏感數(shù)據(jù)的監(jiān)管,特別是在公安和政府層面,需要明確重點(diǎn)領(lǐng)域數(shù)據(jù)內(nèi)容和范圍,制定完善的重點(diǎn)領(lǐng)域數(shù)據(jù)庫管理和安全操作制度,加強(qiáng)日常對(duì)信息數(shù)據(jù)監(jiān)管。另外,還需要規(guī)劃信息敏感域,做好本域的信息隔離和保護(hù)工作,如使用安全邊界接入平臺(tái)等方式,切斷直接的數(shù)據(jù)通訊鏈接,減少甚至避免受攻擊的情況。實(shí)際上,數(shù)據(jù)安全問題的解決,并不是靠一個(gè)人,一個(gè)企業(yè)或者一個(gè)行業(yè)就能徹底解決的,而是需要整個(gè)社會(huì),各行各業(yè)的共同努力。

四、大數(shù)據(jù)如何真正落地安防

大數(shù)據(jù)如何才能真正落地到安防行業(yè)?英特爾顧典為我們分享了他的觀點(diǎn):

1、由于大數(shù)據(jù)基礎(chǔ)軟件Apache Hahoop是一個(gè)通用的平臺(tái)軟件,所以安防行業(yè)的廠商如軟件供應(yīng)商、系統(tǒng)集成商仍需和最終客戶之間有深入的交流,了解需求,根據(jù)客戶需求構(gòu)建新的大數(shù)據(jù)解決方案。這樣可以把一個(gè)通用的數(shù)據(jù)平臺(tái)設(shè)計(jì)成更加符合安防行業(yè)應(yīng)用的數(shù)據(jù)平臺(tái),并考慮設(shè)計(jì)一些標(biāo)準(zhǔn)的API,使系統(tǒng)能夠靈活地應(yīng)對(duì)將來的業(yè)務(wù)擴(kuò)展。

2、大數(shù)據(jù)的應(yīng)用還涉及到一些新的行業(yè)技術(shù)標(biāo)準(zhǔn),如某些視頻信息抽象出的元數(shù)據(jù)等。有了這些針對(duì)數(shù)據(jù)處理的行業(yè)標(biāo)準(zhǔn)才可能使系統(tǒng)在處理海量異構(gòu)數(shù)據(jù)時(shí)減少由于不必要的數(shù)據(jù)轉(zhuǎn)換帶來的系統(tǒng)資源損耗,使系統(tǒng)更加專注于分析、挖掘,從而更有效率地實(shí)現(xiàn)數(shù)據(jù)帶來的價(jià)值,如提高應(yīng)用的實(shí)時(shí)性。

3、因大數(shù)據(jù)技術(shù)相對(duì)較新,產(chǎn)業(yè)鏈中包括方案提供商、系統(tǒng)集成商以及客戶本身,都需要增加熟悉大數(shù)據(jù)軟硬件的技術(shù)人才。比如,方案提供商需要有熟悉Apache Hadoop基礎(chǔ)平臺(tái)軟件的開發(fā)人員,需要有熟悉如何將基于Apache Hadoop的應(yīng)用與現(xiàn)有的其它業(yè)務(wù)流程進(jìn)行系統(tǒng)對(duì)接的應(yīng)用開發(fā)人員,而系統(tǒng)集成商和客戶也需要有相應(yīng)的Hadoop基礎(chǔ)軟件平臺(tái)的維護(hù)人員。有了這些人才,才能使方案不斷、快速地優(yōu)化,從而實(shí)現(xiàn)穩(wěn)定及高效運(yùn)作。

大數(shù)據(jù)時(shí)代,安防企業(yè)如何規(guī)劃未來發(fā)展之路?安防大數(shù)據(jù)又如何擺脫好事多磨的窘境?還讓我們且行且看!

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號(hào)-6京公網(wǎng)安備 11010502049343號(hào)