GPU后端深度學(xué)習(xí)主流芯片 國(guó)內(nèi)已有多個(gè)GPU替代方案
作者:j9九游會(huì)發(fā)布時(shí)間:2025-01-02
隨著人工智能的快速發(fā)展,對(duì)算力提出了更高的要求,傳統(tǒng)CPU已經(jīng)難以滿足人工智能高性能并行計(jì)算的需求。云端AI芯片的出現(xiàn)解決了目前這一瓶頸問(wèn)題。相比于前端,后端設(shè)備更適合于更大規(guī)模的人工智能的應(yīng)用。由于后端設(shè)備的空間、能耗、環(huán)境等的限制相對(duì)較少,便于對(duì)更大規(guī)模的數(shù)據(jù)進(jìn)行深度處理。
GPU后端主流深度學(xué)習(xí)芯片
現(xiàn)階段各大安防監(jiān)控廠商也將人工智能技術(shù)競(jìng)爭(zhēng)的焦點(diǎn)集中于后端,紛紛推出新產(chǎn)品。如??低暤摹澳樧V”系列人臉?lè)治龇?wù)器、大華的“睿智”視頻服務(wù)器、蘇州科達(dá)的DeepEngine深度學(xué)習(xí)服務(wù)器等。另外,智能化的后端設(shè)備也能更好利用當(dāng)前的非智能前端設(shè)備,在無(wú)需大規(guī)模改造前端設(shè)備的條件下實(shí)現(xiàn)安防監(jiān)控系統(tǒng)的智能化升級(jí)。
GPU是目前主流的深度學(xué)習(xí)后端芯片方案。對(duì)比CPU,GPU的更多核心和其并行處理架構(gòu)使其成為天然的圖形計(jì)算系統(tǒng)。利用GPU做圖形計(jì)算,可以做到比CPU計(jì)算5倍以上性能提升,價(jià)格降低6倍,功耗降低10倍,體積減少20倍。對(duì)于安防企業(yè)而言,借助基于GPU開(kāi)發(fā)的模塊既能夠滿足圖像處理要求,又適合于處理計(jì)算密度高、邏輯分支簡(jiǎn)單的大規(guī)模數(shù)據(jù)并行負(fù)載,將會(huì)成為進(jìn)行海量視頻數(shù)據(jù)結(jié)構(gòu)化處理的關(guān)鍵。九游會(huì)j9網(wǎng)站首頁(yè)
國(guó)內(nèi)廠商推出多個(gè)GPU替代方案
但GPU方案并非最優(yōu),已有基于FPGA/ASIC芯片的新嘗試。雖然服務(wù)器端可以布置多塊GPU,但多路視頻解碼會(huì)對(duì)服務(wù)器造成壓力,而這對(duì)GPU來(lái)說(shuō)并不擅長(zhǎng)。且GPU實(shí)際上是利用相關(guān)成熟的技術(shù)提供一種通用級(jí)的解決方法來(lái)滿足深度學(xué)習(xí)的要求,缺乏針對(duì)專業(yè)應(yīng)用解決方案,使得其能效受到限制。為此,各路芯片及安防廠商在積極尋求更優(yōu)化的方案。

目前已有廠商針對(duì)安防監(jiān)控后端推出了GPU的替代方案。2018年10月份,華為自研的云端AI芯片昇騰系列,基于達(dá)芬奇架構(gòu)的華為昇騰910。在年底,華為又推出了基于ARM的服務(wù)器芯片“Hi1620”,采用臺(tái)積電7nm工藝制造,在ARMv8架構(gòu)的基礎(chǔ)上,華為自主設(shè)計(jì)了代號(hào)“TaiShan”(泰山)的核心,支持48核心、64核心+2.6/3.0GHz配置。百度發(fā)布AI“昆侖”芯片,它是目前行業(yè)內(nèi)運(yùn)行速度最快的智能芯片。
成立于2016年的寒武紀(jì),成立之初就發(fā)布了世界首款商用深度學(xué)習(xí)專用處理器寒武紀(jì)1A處理器(Cambricon-1A),并成為全球第一個(gè)成功流片并擁有成熟產(chǎn)品的AI芯片公司,擁有終端AI處理器IP和云端高性能AI芯片兩條產(chǎn)品線。其中中科曙光與寒武紀(jì)合作,在最新的人工智能服務(wù)器Phaneron中搭載寒武紀(jì)的深度學(xué)習(xí)ASIC芯片,在深度學(xué)習(xí)應(yīng)用中比傳統(tǒng)的CPU/GPU在性能、功耗和芯片面積方面均有較大優(yōu)勢(shì),有望在安防監(jiān)控領(lǐng)域落地應(yīng)用。
2017年,比特大陸推出其AI品牌Sophon(算豐),并發(fā)布其第一代云端AI芯片張量計(jì)算處理器BM1680,適用于 CNN / RNN / DNN 的訓(xùn)練和推理。BM1680 單芯片能夠提供 2TFlops 單精度加速計(jì)算能力,芯片由 64 NPU 構(gòu)成九游會(huì)j9網(wǎng)站首頁(yè)。2018 年比特大陸發(fā)布第 2 代算豐 AI 芯片 BM1682,計(jì)算力有大幅提升。同時(shí),今年10月份比特大陸基于云端芯片BM1682還發(fā)布了算豐智能服務(wù)器SA3。