2015年以來(lái)，安防監(jiān)控公司表示全球數(shù)據(jù)井噴式的爆發(fā)（年均增速都在40%以上）、GPU計(jì)算能力的飛速增長(zhǎng)和深度神經(jīng)網(wǎng)絡(luò)算法的突破，使得并行計(jì)算變得更快速和更有效，人工智能開(kāi)始全面爆發(fā)。深度學(xué)習(xí)使得機(jī)器學(xué)習(xí)拓展了人工智能的領(lǐng)域范圍，讓幾乎大部分機(jī)器輔助功能都變?yōu)榭赡?，比如無(wú)人駕駛汽車(chē)、無(wú)人機(jī)、語(yǔ)音識(shí)別、欺詐檢測(cè)、產(chǎn)品推薦等方面。在圖像分類(lèi)、物體檢測(cè)、圖像語(yǔ)義分析、人臉識(shí)別、光學(xué)字符識(shí)別等計(jì)算機(jī)視覺(jué)領(lǐng)域，深度學(xué)習(xí)的應(yīng)用尤為廣泛，在一些場(chǎng)景中甚至可以比人做得更好。其中，深度學(xué)習(xí)對(duì)圖像解析的突出作用使得視頻監(jiān)控系統(tǒng)得到了跨越式發(fā)展，視頻監(jiān)控的核心需求是在圖像中準(zhǔn)確快速地發(fā)現(xiàn)目標(biāo)，人工智能將傳統(tǒng)的錄像回放轉(zhuǎn)變?yōu)閷?shí)時(shí)預(yù)警布控，為大數(shù)據(jù)分析研判提供了重要技術(shù)支撐。

深度學(xué)習(xí)的應(yīng)用主要來(lái)自三個(gè)方面：巨大的標(biāo)記數(shù)據(jù)樣本（圖像和語(yǔ)音）、先進(jìn)的算法／模型／軟件（神經(jīng)網(wǎng)絡(luò)算法CNN和RNN以及深度學(xué)習(xí)框架）和高性能計(jì)算（數(shù)據(jù)樣本多／模型訓(xùn)練時(shí)間長(zhǎng)／參數(shù)更新快速同步）。

除了數(shù)據(jù)之外，算法和算力分別從軟件和硬件兩個(gè)維度撐起了人工智能平臺(tái)的巨大生態(tài)。

高清監(jiān)控安裝公司稱(chēng)算法方面，目前CNN的深度學(xué)習(xí)框架主要包括：加州大學(xué)伯克利分校維護(hù)的Caffe、谷歌維護(hù)的Tensorflow、微軟研究院維護(hù)的CNTK、分布式機(jī)器學(xué)習(xí)社區(qū)維護(hù)的MXNet以及百度維護(hù)的PaddlePaddle等。CNN分為模型訓(xùn)練和應(yīng)用推理兩個(gè)環(huán)節(jié)：模型訓(xùn)練是獲取推理模型，應(yīng)用推理是根據(jù)訓(xùn)練模型和輸入數(shù)據(jù)獲取計(jì)算結(jié)果，如圖片分類(lèi)。不同環(huán)節(jié)采用不同的計(jì)算架構(gòu)：模型訓(xùn)練使用CPU+GPU計(jì)算架構(gòu)，應(yīng)用推理可以采用CPU+FPGA、計(jì)算架構(gòu)等。主要因?yàn)椋?/span>GPU算法實(shí)現(xiàn)架構(gòu)成熟，適合較復(fù)雜的訓(xùn)練算法，FPGA可靈活實(shí)現(xiàn)多任務(wù)處理且運(yùn)行能效更好。

以Caffe為例，其特點(diǎn)是上手快（模型與相應(yīng)優(yōu)化都是以文本形式而非代碼形式給出）、模塊化（設(shè)計(jì)上力求模塊化，允許對(duì)新數(shù)據(jù)格式、網(wǎng)絡(luò)層和損失函數(shù)進(jìn)行擴(kuò)展）、表示和分離（模型定義寫(xiě)進(jìn)配置文件，根據(jù)網(wǎng)絡(luò)需求調(diào)度內(nèi)存）、測(cè)試覆蓋（每個(gè)模塊對(duì)應(yīng)一個(gè)測(cè)試）、開(kāi)放性（公開(kāi)的代碼和參考模型）

算力方面，當(dāng)下實(shí)現(xiàn)深度學(xué)習(xí)的高性能計(jì)算硬件平臺(tái)主要包括GPU、ASIC、FPGA，GPU因?yàn)橄劝l(fā)優(yōu)勢(shì)占據(jù)較大市場(chǎng)份額，FPGA正試圖在云端服務(wù)器發(fā)力，ASIC難度更高但更適用于深度學(xué)習(xí)算法。算力需要具備并行性、多線程、高內(nèi)存帶寬等特性，而且由于數(shù)據(jù)的訓(xùn)練時(shí)間長(zhǎng)，需要低功耗的硬件架構(gòu)。三類(lèi)平臺(tái)和傳統(tǒng)CPU平臺(tái)的性能對(duì)比如下：

GPU是目前深度學(xué)習(xí)訓(xùn)練系統(tǒng)比較成熟和廣泛的硬件平臺(tái)，最初為處理圖形而設(shè)計(jì)具備了大規(guī)模的獨(dú)立神經(jīng)元，相比CPU的串行邏輯，GPU更擅長(zhǎng)高度并行的密集計(jì)算，有很多計(jì)算核心是為矩陣運(yùn)算專(zhuān)門(mén)優(yōu)化，并且CJPU為適應(yīng)復(fù)雜多層網(wǎng)絡(luò)，提供15TFLOPS的單精度浮點(diǎn)計(jì)算能力和900GB/s帶寬。通常，訓(xùn)練平臺(tái)采用CPU+P4/P40/P100/V100等GPLT卡組建集群和數(shù)據(jù)中心，應(yīng)用程序的串行部分在CPU上運(yùn)行，計(jì)算任務(wù)繁重的部分由CPU加速，CPU與GPU通過(guò)PCIE總線通信，此外，邊緣端的推理應(yīng)用可以采用Jetson方案。GPU主要通過(guò)專(zhuān)用編程框架CUDA軟件開(kāi)發(fā)，CLDA不需要借助圖形學(xué)API，采用通用計(jì)算并行架構(gòu)和C語(yǔ)言進(jìn)行開(kāi)發(fā)，降低了難度。