技術(shù)解析：安防云計(jì)算技術(shù)核心技術(shù)探討

其中主要表現(xiàn)在智能交通行業(yè)領(lǐng)域中海量的交通流信息和卡口過(guò)車(chē)抓拍圖片、智慧城市行業(yè)領(lǐng)域中的海量視頻錄像文件等非結(jié)構(gòu)化數(shù)據(jù)，安防行業(yè)的主要用戶公安、交警都有著需要對(duì)海量圖片和視頻文件進(jìn)行安全有效的數(shù)據(jù)存儲(chǔ)、高性能并行計(jì)算、智能化的數(shù)據(jù)分析挖掘后進(jìn)行實(shí)戰(zhàn)方面的強(qiáng)烈需求，這些都與云計(jì)算特性非常吻合。提供海量存儲(chǔ)的同時(shí)，如何快速有效的定位多維度數(shù)據(jù)，挖掘出各類孤島數(shù)據(jù)在多維度的潛在關(guān)聯(lián)關(guān)系，一直是我們致力于解決的問(wèn)題。云計(jì)算、大數(shù)據(jù)等技術(shù)正在慢慢滲入安防行業(yè)，隨著這些技術(shù)的發(fā)展成熟，將對(duì)安防行業(yè)帶來(lái)革命性的影響。

大規(guī)?；旌嫌?jì)算技術(shù)

監(jiān)控系統(tǒng)產(chǎn)生的大量視頻圖像數(shù)據(jù)如果只靠人工來(lái)進(jìn)行處理，效率會(huì)非常低，借助于視頻智能化處理算法，已經(jīng)可以從視頻圖像數(shù)據(jù)中獲取一些簡(jiǎn)單的特征進(jìn)行比對(duì)，或者進(jìn)行模式匹配產(chǎn)生報(bào)警事件，提高了處理的效率。這種方式能夠處理的數(shù)據(jù)量，數(shù)據(jù)組合的程度，數(shù)據(jù)的類型等等都還處于較低的水平，無(wú)法應(yīng)對(duì)海量數(shù)據(jù)和日益增長(zhǎng)的需求。大規(guī)模計(jì)算技術(shù)的目的就是為了提供一種統(tǒng)一的數(shù)據(jù)處理平臺(tái)，上面可以集成各種智能化算法和計(jì)算模型，綜合處理海量監(jiān)控?cái)?shù)據(jù)，以更快的速度得到更有價(jià)值的數(shù)據(jù)。

統(tǒng)一資源管理技術(shù)

監(jiān)控系統(tǒng)產(chǎn)生的主要數(shù)據(jù)就是視頻和圖像數(shù)據(jù)，原始數(shù)據(jù)經(jīng)過(guò)處理后，會(huì)產(chǎn)生更豐富的數(shù)據(jù)，處理的方式也會(huì)有很大不同。比如對(duì)于歷史視頻數(shù)據(jù)可以在后臺(tái)處理的視頻數(shù)據(jù)檢索，對(duì)于卡口的車(chē)牌和人臉特征數(shù)據(jù)需要實(shí)時(shí)布控，對(duì)歷史卡口信息需要做到實(shí)時(shí)檢索。這些數(shù)據(jù)都需要不同的計(jì)算框架進(jìn)行處理，通過(guò)引入統(tǒng)一的資源管理平臺(tái)，可以在同一個(gè)資源池里運(yùn)行不同的計(jì)算框架，大幅提高資源的利用率，同時(shí)在資源被某種業(yè)務(wù)獨(dú)占時(shí)，又能最大限度的發(fā)揮系統(tǒng)的性能。

實(shí)時(shí)檢索技術(shù)

傳統(tǒng)的結(jié)構(gòu)化數(shù)據(jù)都采用關(guān)系型數(shù)據(jù)庫(kù)進(jìn)行保存，通過(guò)RAC等技術(shù)形成數(shù)據(jù)庫(kù)集群，通過(guò)索引方式進(jìn)行加速，但是核心還是基于行存儲(chǔ)和關(guān)系運(yùn)算，面對(duì)海量記錄時(shí)在各個(gè)方面都已經(jīng)遇到了瓶頸。實(shí)時(shí)檢索技術(shù)通過(guò)引入分布式數(shù)據(jù)庫(kù)，列式存儲(chǔ)，內(nèi)存計(jì)算，索引引擎等技術(shù)，能應(yīng)對(duì)100億級(jí)別的結(jié)構(gòu)化數(shù)據(jù)，在存儲(chǔ)容量，可擴(kuò)展性，檢索速度等多個(gè)方面都可以得到大幅提升。該系統(tǒng)在智能交通、刑事偵查等視頻監(jiān)控領(lǐng)域具備重要的研究?jī)r(jià)值和廣闊的應(yīng)用前景。

復(fù)雜事件處理技術(shù)

隨著安防行業(yè)的發(fā)展，業(yè)務(wù)變的也來(lái)越復(fù)雜，比如智能交通領(lǐng)域，出現(xiàn)了車(chē)輛積分研判、套牌車(chē)分析、同行車(chē)分析等需求。這些需求存在產(chǎn)生結(jié)果所依賴的條件多、處理過(guò)程實(shí)時(shí)性的要求高、需要處理的數(shù)據(jù)量巨大等特點(diǎn)。

傳統(tǒng)的方式是采用關(guān)系數(shù)據(jù)庫(kù)，通過(guò)復(fù)雜的SQL語(yǔ)句組合，不斷查詢比對(duì)的方式，很難滿足實(shí)時(shí)性的要求。復(fù)雜事件處理通過(guò)引入流式計(jì)算等技術(shù)，動(dòng)態(tài)地對(duì)輸入數(shù)據(jù)進(jìn)行實(shí)時(shí)的分析，處理速度可以大幅提供。不符合條件的數(shù)據(jù)都被丟棄掉，系統(tǒng)中只存在處理的結(jié)果或者可能有用的中間數(shù)據(jù)，這樣對(duì)存儲(chǔ)的要求也變小了，完全在內(nèi)存中進(jìn)行全過(guò)程的分析，實(shí)時(shí)性得到了保證。

人臉檢索技術(shù)

人臉檢索的技術(shù)在單臺(tái)服務(wù)器上的應(yīng)用已經(jīng)比較成熟，可以應(yīng)用在身份鑒別、在逃人員抓捕、可疑人員排查、身份證查重等領(lǐng)域。人臉檢測(cè)過(guò)程可以分為以下幾個(gè)階段：視頻或圖像解碼、人臉檢測(cè)、特征提取、特征比對(duì)，前三個(gè)步驟都是每次請(qǐng)求對(duì)應(yīng)一次計(jì)算，計(jì)算量相對(duì)可控，而最后一個(gè)步驟特征比每次請(qǐng)求則需要和達(dá)億級(jí)的人臉特征進(jìn)行比對(duì)，是運(yùn)算量最大的一個(gè)階段。

一些實(shí)時(shí)應(yīng)用的請(qǐng)求數(shù)每秒鐘可達(dá)請(qǐng)求數(shù)達(dá)到數(shù)百次，每次人臉比對(duì)次數(shù)可達(dá)百萬(wàn)級(jí)別時(shí)，則整個(gè)系統(tǒng)需要支持每秒億級(jí)的人臉特征比對(duì)計(jì)算。如此大規(guī)模的計(jì)算，單機(jī)上是無(wú)法完成的，必須采用集群完成。特征庫(kù)本身規(guī)模不大，但是比對(duì)次數(shù)很大，屬于典型的計(jì)算密集型集群，特征庫(kù)可以全部倒入到內(nèi)存，在內(nèi)存中完成計(jì)算。海量視頻檢索技術(shù)

圖像傳感器采集到的視頻數(shù)據(jù)保存到后端存儲(chǔ)后，用戶可以隨時(shí)選擇目標(biāo)區(qū)域的多個(gè)攝像頭，提交給視頻檢索集群，檢索集群按照目標(biāo)物體的特征快速檢索的所有對(duì)應(yīng)攝像頭產(chǎn)生視頻數(shù)據(jù)，找到目標(biāo)物體特征所出現(xiàn)的視頻，并定位到準(zhǔn)確的時(shí)間點(diǎn)。其中主要使用了智能化技術(shù)實(shí)現(xiàn)視頻數(shù)據(jù)到物體特征結(jié)構(gòu)化數(shù)據(jù)的轉(zhuǎn)換，支持車(chē)輛顏色，車(chē)牌，衣著顏色，人臉等特征?；诮y(tǒng)一的計(jì)算資源池，實(shí)現(xiàn)智能化算法的并行運(yùn)算，線性提高檢索效率。

結(jié)構(gòu)化之后的數(shù)據(jù)可以保存到數(shù)據(jù)庫(kù)，下次檢索可以直接通過(guò)結(jié)構(gòu)化數(shù)據(jù)進(jìn)行二次檢索，大幅提高檢索效率。

分布式對(duì)象存儲(chǔ)技術(shù)

安防云在系統(tǒng)架構(gòu)和設(shè)計(jì)上，充分考慮大規(guī)模集群環(huán)境下軟硬件發(fā)生故障的現(xiàn)實(shí)，采用先進(jìn)的管理思想和軟件系統(tǒng)，實(shí)現(xiàn)對(duì)大量普通存儲(chǔ)服務(wù)器存儲(chǔ)空間資源進(jìn)行虛擬化整合，實(shí)現(xiàn)軟硬件故障高度容錯(cuò)，搭建高度穩(wěn)定可靠的存儲(chǔ)集群。

系統(tǒng)將控制流與數(shù)據(jù)流分離，以及充分優(yōu)化元數(shù)據(jù)節(jié)點(diǎn)控制系統(tǒng)，使得系統(tǒng)具備極高的性能和良好的線性擴(kuò)展能力。系統(tǒng)整體為應(yīng)用提供統(tǒng)一命名空間，使得系統(tǒng)具備極好的數(shù)據(jù)共享能力。系統(tǒng)將負(fù)載均衡到集群內(nèi)的各節(jié)點(diǎn)上，充分利用集群各節(jié)點(diǎn)性能，以獲得很好的性能聚合能力以保證系統(tǒng)的穩(wěn)定。集群采用高度靈活自組網(wǎng)技術(shù)，提供簡(jiǎn)易部署和維護(hù)功能。系統(tǒng)在數(shù)據(jù)可靠方面，采用智能冗余重建技術(shù)，保證較高磁盤(pán)利用率的前提下，提供最佳冗余策略。另外，系統(tǒng)在節(jié)點(diǎn)軟硬件故障容錯(cuò)方面，也進(jìn)行充分考慮，具備屏蔽所有可屏蔽錯(cuò)誤能力。

快速文件索引技術(shù)

云存儲(chǔ)系統(tǒng)可以支持上億級(jí)的文件，同時(shí)還需要支持上千個(gè)用戶同時(shí)訪問(wèn)。這么大規(guī)模的元數(shù)據(jù)和并發(fā)訪問(wèn)量，采用傳統(tǒng)的內(nèi)存加磁盤(pán)多級(jí)存儲(chǔ)，以及多級(jí)索引方式，尋址的開(kāi)銷(xiāo)將非常大，直接影響到系統(tǒng)的可用性。

為了提高系統(tǒng)的響應(yīng)速度，云存儲(chǔ)采用粗粒度的管理方式，以64M作為典型的塊大小進(jìn)行索引，大幅減小元數(shù)據(jù)的數(shù)量，即使如此，系統(tǒng)的元數(shù)據(jù)規(guī)模還是會(huì)達(dá)到GB級(jí)別?；谶@種情況，系統(tǒng)采用全內(nèi)存態(tài)的元數(shù)據(jù)訪問(wèn)模式，可以將文件尋址時(shí)間降到毫秒級(jí)別。

負(fù)載自動(dòng)均衡技術(shù)

采用中心服務(wù)器模式來(lái)管理整個(gè)云存儲(chǔ)文件系統(tǒng)，所有元數(shù)據(jù)均保存在元數(shù)據(jù)服務(wù)器上，文件則被按塊劃分存儲(chǔ)在不同的數(shù)據(jù)節(jié)點(diǎn)上。

元數(shù)據(jù)維護(hù)了統(tǒng)一的命名空間，同時(shí)掌握整個(gè)系統(tǒng)內(nèi)數(shù)據(jù)節(jié)點(diǎn)的使用情況，當(dāng)客戶端向元數(shù)據(jù)服務(wù)器發(fā)送數(shù)據(jù)讀寫(xiě)的請(qǐng)求時(shí)，元數(shù)據(jù)服務(wù)器根據(jù)數(shù)據(jù)節(jié)點(diǎn)的磁盤(pán)使用情況、網(wǎng)絡(luò)負(fù)擔(dān)等情況，選擇負(fù)擔(dān)最輕的節(jié)點(diǎn)服務(wù)器對(duì)外提供服務(wù)，自動(dòng)調(diào)節(jié)集群的負(fù)載狀態(tài)。

數(shù)據(jù)節(jié)點(diǎn)內(nèi)同時(shí)有提供磁盤(pán)級(jí)的負(fù)載均衡，根據(jù)磁盤(pán)的IO負(fù)載，空間容量等情況，自動(dòng)選擇負(fù)載最輕的磁盤(pán)存儲(chǔ)新的數(shù)據(jù)文件。

當(dāng)有一個(gè)數(shù)據(jù)節(jié)點(diǎn)因?yàn)闄C(jī)器故障或者其他原因造成離線時(shí)，元數(shù)據(jù)服務(wù)器會(huì)將此機(jī)器自動(dòng)屏蔽掉，不再將此數(shù)據(jù)節(jié)點(diǎn)提供給客戶端使用，同時(shí)存儲(chǔ)在此數(shù)據(jù)節(jié)點(diǎn)上的數(shù)據(jù)也會(huì)自動(dòng)恢復(fù)到其他可用的節(jié)點(diǎn)服務(wù)器上，自動(dòng)屏蔽數(shù)據(jù)單節(jié)點(diǎn)故障對(duì)系統(tǒng)的影響。

另外對(duì)故障的數(shù)據(jù)節(jié)點(diǎn)上的數(shù)據(jù)快速恢復(fù)，只需將數(shù)據(jù)節(jié)點(diǎn)上的硬盤(pán)拔出，插入到其他數(shù)據(jù)節(jié)點(diǎn)，這樣即減少集群對(duì)數(shù)據(jù)恢復(fù)的壓力，又不對(duì)客戶端讀寫(xiě)產(chǎn)生影響。高速并發(fā)訪問(wèn)技術(shù)

客戶端在訪問(wèn)云存儲(chǔ)時(shí)，首先訪問(wèn)元數(shù)據(jù)服務(wù)器，獲取將要與之進(jìn)行交互的數(shù)據(jù)節(jié)點(diǎn)信息，然后直接訪問(wèn)這些數(shù)據(jù)節(jié)點(diǎn)完成數(shù)據(jù)存取。

客戶端與元數(shù)據(jù)服務(wù)器之間只有控制流，而無(wú)數(shù)據(jù)流，這樣就極大地降低了元數(shù)據(jù)服務(wù)器的負(fù)載，使之不成為系統(tǒng)性能的一個(gè)瓶頸?？蛻舳伺c數(shù)據(jù)節(jié)點(diǎn)之間直接傳輸數(shù)據(jù)流，同時(shí)由于文件被分成多個(gè)節(jié)點(diǎn)進(jìn)行分布式存儲(chǔ)，客戶端可以同時(shí)訪問(wèn)多個(gè)節(jié)點(diǎn)服務(wù)器，從而使得整個(gè)系統(tǒng)的I/O高度并行，系統(tǒng)整體性能得到提高。

通常情況下，系統(tǒng)的整體吞吐率與節(jié)點(diǎn)服務(wù)器的數(shù)量呈正比。

高可靠性保證技術(shù)

對(duì)于元數(shù)據(jù)，通過(guò)操作日志來(lái)提供容錯(cuò)功能。主服務(wù)器本地SSD盤(pán)組建高可靠RAID1，提供高可靠容錯(cuò)能力。當(dāng)元數(shù)據(jù)服務(wù)器發(fā)生故障時(shí)，在磁盤(pán)數(shù)據(jù)保存完好的情況下，可以迅速恢復(fù)以上元數(shù)據(jù)。且操作日志在主備元數(shù)據(jù)服務(wù)器之間實(shí)時(shí)同步，實(shí)現(xiàn)更高程度的可靠性。

高可用技術(shù)

系統(tǒng)中的所有服務(wù)節(jié)點(diǎn)均是通過(guò)網(wǎng)絡(luò)連接在一起，由于采用了高可靠的容錯(cuò)機(jī)制，系統(tǒng)增減節(jié)點(diǎn)不必停止服務(wù)，可在線增減存儲(chǔ)節(jié)點(diǎn)。