存儲架構(gòu)比拼:誰會成為高清監(jiān)控的選擇
應(yīng)該說,網(wǎng)絡(luò)監(jiān)控的誕生解決了傳統(tǒng)監(jiān)控效果的難題,改變了傳統(tǒng)的連接方式,更簡單更便捷,但同時衍生了更龐大的存儲需求和更高的帶寬滿足。對于視頻監(jiān)控的數(shù)據(jù)來說,由于網(wǎng)絡(luò)視頻監(jiān)控是基于網(wǎng)絡(luò)的音視頻流傳輸,在大量音視頻流傳輸?shù)那闆r下會對視頻監(jiān)控管理服務(wù)器的性能產(chǎn)生很大影響,數(shù)據(jù)越多,視頻監(jiān)控管理服務(wù)器對I/O操作的調(diào)度和緩存的管理就變得越復(fù)雜,往往會出現(xiàn)多臺攝像頭對單臺服務(wù)器,多臺服務(wù)器對一臺后端存儲設(shè)備的情況,對存儲設(shè)備的頻繁訪問以及多個攝像頭多個服務(wù)器的存儲需求,需要占用大量的資源,影響了其處理能力。
據(jù)安防業(yè)界一項調(diào)查顯示,曾占據(jù)安防主流市場的DVR硬盤存儲目前的市場份額已退減至45%,傳統(tǒng)的IT存儲方式(包括DAS存儲、NAS存儲、SAN存儲)與其平分天下,也占據(jù)了市場份額的45%。
高清監(jiān)控對數(shù)據(jù)存儲的要求
然而,隨著高清監(jiān)控的發(fā)展,前端圖像質(zhì)量的大幅度提升也導(dǎo)致了后端存儲的監(jiān)控數(shù)據(jù)有了突飛猛進的增長。以720P高清攝像機為例,其每小時視頻錄像數(shù)據(jù)可壓縮到3GB左右容量,一般的監(jiān)控系統(tǒng)路上都是幾十路甚至上百路,按照有關(guān)規(guī)定,監(jiān)控錄像需保存一個月(30天),假設(shè)某監(jiān)控系統(tǒng)為100路,則可計算得知:
3GB/小時*24小時*30天*100路= 216,000GB
也就是說,一個上百路的高清視頻監(jiān)控系統(tǒng)所需的最少容量為216TB,考慮到全局數(shù)據(jù)冗余度、未來數(shù)據(jù)膨脹,以及數(shù)據(jù)自動恢復(fù)等,系統(tǒng)設(shè)計至少需要220TB的存儲空間。
除了大容量之外,視頻監(jiān)控存儲系統(tǒng)還有著以下的要求:
視頻采集過程中,視頻文件格式一般都不會發(fā)生變化,且碼率保持恒定,視頻圖像的幀率一般為25幀/S,也就是說在存儲的讀寫操作中,必須保證存儲的高帶寬,否則圖像采集或回放就會出現(xiàn)丟幀現(xiàn)象,因此視頻監(jiān)控系統(tǒng)對存儲系統(tǒng)在高并發(fā)IO的情況下不僅要求在高并發(fā)IO的情況下帶寬大,還要求帶寬穩(wěn)定。
數(shù)據(jù)讀寫操作的持續(xù)時間長。由于攝像頭一般都是7*24小時工作的,所以數(shù)據(jù)寫入操作的持續(xù)時間也是7*24小時不間斷的,后期回放時也需要在7*24小時內(nèi)都能夠及時獲取數(shù)據(jù)。因此要求存儲系統(tǒng)在硬盤損壞,甚至存儲某些節(jié)點宕機的情況下,能夠保持7*24小時不間斷穩(wěn)定運行。
視頻監(jiān)控系統(tǒng)一般具有攝像頭路數(shù)多,視頻圖像存儲時間長,因此存儲容量需求巨大,且隨著圖像存儲時間的增加,存儲容量需求呈線性的、爆炸性的增長。因此視頻監(jiān)控系統(tǒng)存儲必須支持大容量,且容量具有高擴展性,滿足長時間大容量視頻圖像存儲的需求。
傳統(tǒng)IT存儲架構(gòu)的不足和缺陷
高清視頻監(jiān)控存儲系統(tǒng)需要具有海量數(shù)據(jù)高效管理、高效檢索、高可靠性等一系列的要求,不過傳統(tǒng)的IT存儲方式(包括DAS存儲、NAS存儲、SAN存儲)在這些方面似乎有著各項不能勝任的理由:
DAS:該方案利用HBA卡直接連接應(yīng)用服務(wù)器和光纖盤陣,不提供數(shù)據(jù)共享能力。如果多個應(yīng)用需要共用同一份數(shù)據(jù),往往要花費大量的時間進行數(shù)據(jù)遷移,結(jié)果導(dǎo)致環(huán)境中存在多份相同的數(shù)據(jù),并且多份數(shù)據(jù)之間的同步困難,浪費了大量的人力物力。
SAN:該方案利用存儲光纖網(wǎng)絡(luò)連接應(yīng)用服務(wù)器和光纖盤陣,相比DAS 更具靈活性和可擴展性。但是SAN仍然不具備數(shù)據(jù)共享能力,而且由于SAN系統(tǒng)高昂的價格,以及不同廠商之間的設(shè)備兼容性問題,限制了在HPC領(lǐng)域的使用。
NAS:提供NFS或者CIFS 協(xié)議訪問的NAS 系統(tǒng)能夠給應(yīng)用服務(wù)器提供統(tǒng)一的文件系統(tǒng)映象,滿足多臺應(yīng)用服務(wù)器之間共享數(shù)據(jù)的需求。但是由于傳統(tǒng)NAS 往往通過單臺服務(wù)器的形式提供文件級的存儲空間,其有限的IO帶寬和可擴展性都難以滿足HPC 系統(tǒng)大量的并發(fā)讀寫需求。而且NAS對文件系統(tǒng)鎖的支持較差,多臺客戶端不能同時讀寫同一文件,導(dǎo)致客戶端之間不能夠很好的協(xié)同工作。
SAN+NAS:該方案一定程度上具備了SAN 的可擴展能力和NAS的數(shù)據(jù)共享能力,但仍然存在明顯的缺陷。應(yīng)用所有的數(shù)據(jù)I/O都必須通過單個NAS服務(wù)器進行,使得整套系統(tǒng)的I/O 帶寬受限于NAS服務(wù)器的帶寬,仍舊難以滿足HPC環(huán)境的需求。
集群存儲——高清監(jiān)控存儲的曙光?
面對如此情況,盡管眾人把希望寄托在云存儲身上,然而,云計算落地時間尚早,云存儲的應(yīng)用到戶時間還有待商榷,視頻監(jiān)控用戶該如何實現(xiàn)大數(shù)據(jù)量的高清監(jiān)控數(shù)據(jù)的存儲呢?集群存儲似乎成為存儲廠商解決視頻監(jiān)控系統(tǒng)大容量、高穩(wěn)定性的答案。
先來解釋一下集群存儲的概念。所謂集群存儲是指將多臺存儲設(shè)備中的存儲空間聚合成一個能夠給應(yīng)用服務(wù)器提供統(tǒng)一訪問接口和管理界面的存儲池,應(yīng)用可以通過該訪問接口透明地訪問和利用所有存儲設(shè)備上的磁盤,可以充分發(fā)揮存儲設(shè)備的性能和磁盤利用率。數(shù)據(jù)將會按照一定的規(guī)則從多臺存儲設(shè)備上存儲和讀取,以獲得更高的并發(fā)訪問性能。
集群存儲的優(yōu)勢主要體現(xiàn)在提高并行或分區(qū)I/O的整體性能,特別是工作流、讀密集型以及大型文件的訪問,通過采用更低成本的服務(wù)器來降低整體成本。
2008年10月,某企業(yè)在中影集團機房內(nèi)利用相同的硬件環(huán)境對集群存儲架構(gòu)與傳統(tǒng)存儲架構(gòu)分別做了性能測試,用iozone工具測試存儲架構(gòu)的并發(fā)IO性能。
結(jié)果顯示,集群存儲架構(gòu)與傳統(tǒng)存儲架構(gòu)相比較,并發(fā)寫性能高約30%,并發(fā)讀性能高約10%。
傳統(tǒng)類型的存儲架構(gòu),每1TB硬盤的I/O平均讀寫速度最高能達到15-20MB/s,以60TB為例,整個存儲架構(gòu)的I/0并發(fā)讀寫速度僅能達到0.9-1.5GB/s,無法滿足高并發(fā)性的要求;而CZSS存儲系統(tǒng)打破了傳統(tǒng)意義上的以硬盤為單位的I/O讀寫速度的瓶頸,采用了高效的文件管理機制,以節(jié)點為整個系統(tǒng)I/O讀寫的計算單位,同樣60TB,CZSS系統(tǒng)大約需要10個節(jié)點(10臺存儲單元),每個節(jié)點的讀寫速度為300MB/s以上,故并發(fā)讀寫速度可達到3GB/s以上,極大地滿足了用戶對于系統(tǒng)高并發(fā)性的要求。
而且在傳統(tǒng)存儲測試過程中在做并發(fā)讀寫的時候,在客戶端無法對傳統(tǒng)存儲系統(tǒng)掛載目錄進行l(wèi)s(查看目錄中的文件)操作,即傳統(tǒng)存儲系統(tǒng)在有負載的情況下無法查看其中的數(shù)據(jù),這樣使得在系統(tǒng)在有任務(wù)時,就無法取出存儲在傳統(tǒng)存儲架構(gòu)中的結(jié)果數(shù)據(jù)。這種現(xiàn)象說明傳統(tǒng)存儲架構(gòu)的元數(shù)據(jù)處理能力很低,在有大量文件的情況下會導(dǎo)致系統(tǒng)無法提供服務(wù)。
傳統(tǒng)存儲架構(gòu)的軟件在客戶端請求數(shù)較多時,元數(shù)據(jù)類操作將失去響應(yīng)。此時所有的客戶端將無法執(zhí)行打開文件夾、查詢文件類的操作,這樣,所有的桌面客戶端都將失去響應(yīng),制作工作將完全無法進行。而CZSS的存儲軟件沒有這個問題。在同等硬件條件下,集群系統(tǒng)軟件的IO帶寬比傳統(tǒng)存儲架構(gòu)軟件要高出30%。投資成本降低了40%以上。
結(jié)語
目前來說,國內(nèi)安防市場的發(fā)展主要是由一些政府主導(dǎo)的項目在推動,比如平安城市建設(shè),交通監(jiān)控系統(tǒng)建設(shè)等,這些安防系統(tǒng)都有著多路數(shù)、高圖像質(zhì)量的要求,同時要求系統(tǒng)具有實時處理信息的能力,由此帶來的大數(shù)據(jù)量存儲的問題不可避免。
安防行業(yè)從模擬時代過渡到數(shù)字時代,監(jiān)控存儲架構(gòu)從DVR到NAS和SAN的過渡,應(yīng)該說這是一個時代的進步。隨著高清監(jiān)控的到來,當傳統(tǒng)IT存儲架構(gòu)也無法滿足高清監(jiān)控存儲的要求時,集群存儲——對安防行業(yè)來說,這一新的存儲方式能否被我們接受呢?真金不怕火煉,我們只能說,對于任何新事物,用戶接受都需要一定的時間和過渡期。
評論