媒體來源: 與非網(wǎng)
2016年,Google旗下DeepMind公司開發(fā)的AlphaGo 戰(zhàn)勝圍棋世界冠軍李世石, 一“棋” 激起千層浪,成為了人工智能時代到來的分水嶺。機(jī)器戰(zhàn)勝人類背后的主要工作原理是機(jī)器深度學(xué)習(xí):模仿人腦神經(jīng)網(wǎng)絡(luò)特征,對樣本數(shù)據(jù)內(nèi)在的規(guī)律進(jìn)行訓(xùn)練,進(jìn)而推理。讓機(jī)器模仿人腦的機(jī)制來解釋數(shù)據(jù)(圖像、聲音、文字等),是實現(xiàn)人工智能的必經(jīng)之路。
支撐AlphaGo深度學(xué)習(xí)的硬件是Google開天辟地的推出了TPU (Tensor Processing Unit張量處理單元)系列人工智能芯片,這是為神經(jīng)網(wǎng)絡(luò)加速的專用芯片。它的橫空出世,打破了GPU (Graphics Processing Unit圖像處理單元) 曾一度稱霸神經(jīng)網(wǎng)絡(luò)訓(xùn)練和推理的市場局面,也將人工智能芯片產(chǎn)業(yè)市場規(guī)模推向了火山爆發(fā)式的高度。
數(shù)十億的端側(cè)設(shè)備的智能化需求催生了端側(cè)AI芯片的廣闊市場。Edge TPU 是Google 推出的TPU端側(cè)芯片,可以在客戶的應(yīng)用本地運(yùn)行人工智能算法,從而大大節(jié)省延時和功耗。端側(cè)AI芯片是智能設(shè)備的核心組件,也是人工智能時代的重要的基礎(chǔ)設(shè)施。
在這一廣闊市場中,對于系統(tǒng)廠商而言,計算和部署效率 —— 從每元錢每度電能獲得的芯片性能,部署實施的成本,元器件是否穩(wěn)定可靠 —— 成為了對功耗和成本有要求的應(yīng)用和系統(tǒng)廠商評估AI芯片的標(biāo)準(zhǔn)。
換句話說,如果A芯片1T算力能跑出B芯片2T算力的性能,功耗和成本又比B芯片低,A芯片理所當(dāng)然的會更加受到市場的青睞。另外,相對于協(xié)處理器芯片,SoC(片上系統(tǒng))主芯片更受青睞。芯片的CPU,ISP,編解碼能力,接口豐富度等方面是系統(tǒng)廠商選擇核心芯片的重要考量因素。協(xié)處理器需要外掛一顆主處理器來運(yùn)行,而SoC主芯片可以一顆芯片獨立完成任務(wù),綜合來看性能、成本、功耗角度更具優(yōu)勢。

肇觀電子 N161 SoC芯片
將AI芯片新貴肇觀電子的N161芯片的開發(fā)板和最近比較受歡迎的Google Edge TPU在一起做對比評測,肇觀電子的N161芯片,在保證FP16的精度下,跑用于圖片分類的InceptionV4網(wǎng)絡(luò)模型算法,1T算力跑14.41幀/秒,而Google Edge TPU 用4T算力跑9幀/秒。在保證INT8的精度下,兩顆芯片跑用于圖片分類的ResNet-50算法,N161芯片1T算力跑46幀/秒,Google Edge TPU 4T算力跑17.86幀/秒;跑用于圖片檢測的MobileNetV1_SSD網(wǎng)絡(luò)模型算法,N161芯片1T算力跑103.63幀/秒,而Google Edge TPU 4T算力跑90.91幀/秒。

圖 | 針對3種算法,N161以1T模式算力對比Google Edge TPU 4T算力,每秒可計算的圖片數(shù)量
如果看單位算力下兩顆芯片的比較,呈現(xiàn)出的是更加令人印象深刻的性能對比:

圖 | 針對5種算法,N161以每TOPS算力對比Google Edge TPU 每TOPS算力,每秒可計算的圖片數(shù)量
Google Edge TPU和肇觀電子N161都是世界領(lǐng)先的AI芯片;兩個芯片的開發(fā)板上手都很快,工具鏈都很好用;在AI性能和效率上肇觀電子N161具有明顯優(yōu)勢。Edge TPU是協(xié)處理器,要搭配電腦共同運(yùn)行,而N161是SoC主芯片獨立工作,無需電腦即可運(yùn)行,部署方便,適應(yīng)性更廣。
AI芯片的計算效率,取決于芯片對于AI相關(guān)的數(shù)據(jù)和算法的處理效率,其基礎(chǔ)是對AI運(yùn)算過程中涉及到的軟硬件做精細(xì)的數(shù)學(xué)建模、制定邊界條件確定下的最優(yōu)且可擴(kuò)展的軟硬件整體架構(gòu)、優(yōu)化的芯片設(shè)計及實現(xiàn)。做出業(yè)界領(lǐng)先的AI芯片,其既需要深厚的數(shù)學(xué)理論功底,又需要豐富的芯片設(shè)計經(jīng)驗,還需要對下游系統(tǒng)和應(yīng)用的深刻理解,總體來看門檻很高。
在全球,人工智能正在逐漸改變各行各業(yè)。AI芯片作為人工智能的基礎(chǔ)設(shè)施,其重要性不言而喻。人工智能在端側(cè)的應(yīng)用最為廣泛,端側(cè)AI芯片有著巨大的市場。每個應(yīng)用和系統(tǒng)廠商都在尋找在性能、功耗、成本等方面的綜合因素下合用的AI芯片。端側(cè)AI芯片領(lǐng)域具有典型的市場為新涌現(xiàn)、高增長且市場廣闊、高技術(shù)門檻等特征。歷史上,每次科技變革所帶來的新的需求催生了新的市場,涌現(xiàn)了新的公司;新興公司往往更能適應(yīng)新的市場而逐漸勝出,引領(lǐng)科技的前進(jìn)。