新聞來(lái)源：
張江發(fā)布
在張江這片創(chuàng)業(yè)熱土上，駐扎著大批集成電路龍頭企業(yè)。除了在張江扎根多年的“老企業(yè)”，許多芯片界的新生力量也在這里蓬勃發(fā)展。在張江科學(xué)城成立不到五年，肇觀電子已經(jīng)在計(jì)算機(jī)視覺(jué)的賽道上殺出重圍，“拳頭產(chǎn)品”N1系列計(jì)算機(jī)視覺(jué)芯片刷新了端側(cè)AI芯片性能紀(jì)錄，并達(dá)到了幾乎“無(wú)損”的精度。
AI芯片界的“黑馬”刷新芯片性能紀(jì)錄
對(duì)于AI應(yīng)用和系統(tǒng)廠(chǎng)商而言，AI芯片是其核心元器件，每個(gè)應(yīng)用和系統(tǒng)廠(chǎng)商都在尋找在性能、功耗、成本等方面綜合因素下合用的AI芯片。評(píng)估AI芯片是否適合使用往往從每元錢(qián)能獲得的性能、每度電能獲得的性能、部署實(shí)施的成本、元器件是否穩(wěn)定可靠等幾個(gè)方面來(lái)衡量。其中，芯片廠(chǎng)商宣稱(chēng)的每TOPs（Tera operations per second）的算力對(duì)應(yīng)的實(shí)際每秒計(jì)算多少幀數(shù)據(jù)（例如圖片或者視頻），以及算法從訓(xùn)練到部署的轉(zhuǎn)換中對(duì)精度的保持成為關(guān)鍵。
2016年成立的肇觀電子在芯片、數(shù)學(xué)、算法等方面深耕多年，潛心研發(fā)核心技術(shù)，已獲60余件國(guó)內(nèi)外專(zhuān)利授權(quán)。基于多年研發(fā)的CVKit? NN IP的N1系列SoC芯片刷新了端側(cè)AI芯片性能紀(jì)錄。領(lǐng)先的每TOPs處理幀數(shù)，實(shí)時(shí)數(shù)據(jù)流處理能力，支持高精度FP16神經(jīng)網(wǎng)絡(luò)模型直接無(wú)損部署，高性能的INT8網(wǎng)絡(luò)支持能力，多級(jí)精細(xì)功耗控制，將端側(cè)AI芯片的能力提升到了一個(gè)新的高度。
AI芯片性能“又快又準(zhǔn)”是主要指標(biāo)
AI應(yīng)用和系統(tǒng)的客戶(hù)對(duì)于AI芯片實(shí)際的深度神經(jīng)網(wǎng)絡(luò)處理能力有著明確需求。對(duì)于系統(tǒng)性能而言，“又快又準(zhǔn)“是其主要指標(biāo)。“快”主要取決于芯片的每秒計(jì)算能力。如何能夠在單位成本和單位功耗下最優(yōu)地支持神經(jīng)網(wǎng)絡(luò)模型的各種神經(jīng)層的不同數(shù)據(jù)類(lèi)型并使得客戶(hù)的模型部署的精度損失最小，體現(xiàn)出不同公司之間的技術(shù)水平的差異。
根據(jù)不同算法網(wǎng)絡(luò)的測(cè)試結(jié)果，N161芯片每TOPS算力下每秒可推理圖片的數(shù)量展示出了業(yè)界領(lǐng)先的水平。同時(shí)，N161還支持FP16高精度網(wǎng)絡(luò)，同樣展示出強(qiáng)悍的性能。
在FP16的精度下，N161跑各項(xiàng)網(wǎng)絡(luò)可以達(dá)到的每秒幀數(shù)“準(zhǔn)”主要取決于芯片對(duì)于算法中的神經(jīng)網(wǎng)絡(luò)模型的各種神經(jīng)層的不同數(shù)據(jù)類(lèi)型的支持?？蛻?hù)在算法運(yùn)行中產(chǎn)生的精度損失往往十分昂貴。肇觀電子負(fù)責(zé)人跟我們介紹，以無(wú)人零售設(shè)備的應(yīng)用為例，如果物體識(shí)別算法在實(shí)際運(yùn)行中有1%的精度下降，會(huì)直接導(dǎo)致貨損率的上升以及運(yùn)營(yíng)成本的增加。根據(jù)各種不同網(wǎng)絡(luò)的測(cè)試結(jié)果，N161 INT8量化網(wǎng)絡(luò)幾乎無(wú)精度損失（1%以?xún)?nèi)）。此外，肇觀電子創(chuàng)新的CVKIT? NN IP在諸多方面遙遙領(lǐng)先，并已部署至N1系列芯片，以及D163(3D視覺(jué))、V163(車(chē)載)芯片。
5分鐘快速部署解決“算法落地難”問(wèn)題
人工智能落地的挑戰(zhàn)，一方面在于整個(gè)產(chǎn)業(yè)鏈稀缺在性能、成本、功耗等方面合用的上游核心芯片；另一方面在于產(chǎn)業(yè)依賴(lài)高度專(zhuān)業(yè)的知識(shí)技能而導(dǎo)致人才投入等綜合成本高昂。人工智能落地難度大已是業(yè)界不爭(zhēng)的事實(shí)。
為了解決“算法落地難”的問(wèn)題，肇觀電子發(fā)布了“5分鐘部署”的AI應(yīng)用開(kāi)發(fā)平臺(tái)Infer Studio?，助力算法快速商用。Infer Studio? 能夠?qū)⑺惴?/span>“翻譯”成芯片能讀懂的表述文件，并快速部署，這種“一鍵式”開(kāi)發(fā)體驗(yàn)顯著地提高了開(kāi)發(fā)者的效率。據(jù)肇觀電子介紹，Infer Studio?支持TensorFlow/TensorFlow Lite/ONNX/Caffe這些主流框架，開(kāi)發(fā)者可以自由選擇訓(xùn)練框架。從功能上來(lái)說(shuō)，在軟件層Infer Studio?具有Model Visualization可視化模型、Compiler編譯器、Evaluator效果評(píng)估器、Debugger調(diào)試器四種功能。
據(jù)悉，“肇觀”取自“開(kāi)啟視覺(jué)”之意。在張江成立以來(lái)，肇觀電子從計(jì)算機(jī)視覺(jué)出發(fā)，在芯片核心技術(shù)上不斷突破，致力于為工業(yè)檢測(cè)、智慧安防、輕量AIoT等領(lǐng)域的用戶(hù)賦能。肇觀電子表示，計(jì)算機(jī)視覺(jué)的市場(chǎng)還處于發(fā)展期，這意味著肇觀這類(lèi)計(jì)算機(jī)視覺(jué)芯片企業(yè)并無(wú)太多經(jīng)驗(yàn)可以借鑒，只能摸索前行。期待通過(guò)肇觀等先行者的探索，AI視覺(jué)應(yīng)用能夠在更大范圍、更加深入幫助行業(yè)提質(zhì)增效。
