嘉楠:發(fā)力邊緣側(cè) 構(gòu)建智能“芯”生態(tài)
在“2019世界半導(dǎo)體大會”上,嘉楠科技創(chuàng)始人、董事長兼首席執(zhí)行官張楠賡先生發(fā)表題為“讓‘AI’成為AI”的演講,分享了對邊緣側(cè)AI和當(dāng)下產(chǎn)業(yè)的思考,以及對嘉楠科技邊緣智能“芯”生態(tài)的構(gòu)想。
本文引用地址:http://www.ex-cimer.com/article/201906/401743.htm在《電子產(chǎn)品世界》記者的專訪中,張楠賡表示,真正的AI不僅局限于圖像處理,而應(yīng)該兼具視聽等多種感官能力。去年9月,嘉楠推出了第一代AI新品勘智K210,這款基于自主研發(fā)的ASIC芯片集視聽能力于一身,已經(jīng)部署于無感門禁系統(tǒng),功耗僅為300mw。最新的第二代芯片K510也預(yù)計在今年下半年問世,芯片算力將提升5~10倍。
K210和即將問世的K510在某種程度上代表了嘉楠對于AI的思考。隨著AI產(chǎn)業(yè)逐漸走向成熟,AI芯片也逐漸從傳統(tǒng)的通用型芯片向半定制化、全定制化譜系發(fā)展。張楠賡認為,邊緣側(cè)AI之所以沒有普及,因為AI芯片在成本、能耗、算力、通用性等方面仍有不足。對于邊緣側(cè)而言,只有足夠輕量化、低功耗的AI芯片才能真正落地于邊緣側(cè)設(shè)備,賦予設(shè)備一定的自決策能力,從而真正讓社會享受人工智能時代的紅利。
1 讓‘AI’成為AI
從2016年AlphaGo一戰(zhàn)成名以來,沉寂了60年的AI搖身一變成為“未來”的代名詞。自動駕駛、智慧城市、智能家居等一系列新概念點燃了人們對于AI的想象。但另一方面,實現(xiàn)真正的AI仍存挑戰(zhàn)。
AI的通用性首當(dāng)其沖。當(dāng)下AI產(chǎn)業(yè)的突破仍處于單點突破期間。由于應(yīng)用背景明確,數(shù)據(jù)積累豐富,在翻譯、圖像檢測等一些特定的領(lǐng)域里,AI的能力已經(jīng)超越人類。但是,真正的AI通用芯片應(yīng)該具備視、聽、觸等多種能力,而不是單獨針對某個領(lǐng)域進行優(yōu)化。張楠賡認為,就像人一樣,各種傳感器同時起作用,這樣帶給用戶的體驗才會更好。
總體上,AI的算法有一定的共通性。盡管IoT(物聯(lián)網(wǎng))領(lǐng)域是個性化和碎片化的,如果把這些碎片化的領(lǐng)域集合在一起,發(fā)揮通用芯片和算法的優(yōu)勢,這樣可以確保在有限投入下,產(chǎn)出更多AI應(yīng)用。
而其中的關(guān)鍵,恰恰在于AI在邊緣側(cè)設(shè)備的落地。
2 邊緣側(cè)AI需要輕量化和低功耗
張楠賡認為,目前的AI按應(yīng)用場景主要分為兩種,一種是訓(xùn)練,一種是推理。不同應(yīng)用場景對芯片的設(shè)計提出了不同要求。具體而言,算法訓(xùn)練由于對算力要求高,多部署于云端進行。與之相反,數(shù)據(jù)推理則更多發(fā)生在邊緣側(cè),因此芯片設(shè)計應(yīng)當(dāng)兼具低功耗和輕量化。
為此,嘉楠科技于2018年9月6日發(fā)布了針對于邊緣側(cè)的AI芯片——堪智K210。芯片采用了先進的28nm工藝,配置雙核64位CPU。其中,芯片的AI加速器由嘉楠自主研發(fā)設(shè)計,支持8通道高性能麥克風(fēng)陣列的音頻處理硬件,因此一顆芯片可以同時處理視頻和音頻,功耗僅為0.3 W。
圖 堪智K210芯片(來源:堪智官網(wǎng):https://kendryte.com/)
3 為何采用RISC-V架構(gòu)
與多數(shù)芯片不同,K210的CPU采用RISC-V的RV64。因為RISC-V有很多優(yōu)點,例如精簡指令集開發(fā),更重要的是RISC-V并非國家意志的產(chǎn)物,而是具備學(xué)術(shù)性質(zhì)的開源CPU,這在當(dāng)下的貿(mào)易環(huán)境中顯得尤為重要。
同時,嘉楠也趕上了國內(nèi)正在興起RISC-V研究浪潮。K210芯片和開發(fā)板可以服務(wù)于高校和科研院所的研究和培訓(xùn),而且嘉楠產(chǎn)品是市場上為數(shù)不多、可立即買到的RISC-V產(chǎn)品,在淘寶就可以很方便地采購到。
K210的優(yōu)勢是雙核64位RV CPU,是非常學(xué)術(shù)的RISC-V CPU,主頻400 MHz。相比Arm,RISC-V的RV64相當(dāng)于Arm的M7,比M7性能略高一些,但略遜于Arm A7。
4 MCU領(lǐng)域最先進的工藝水平
最有效的降功耗方法是好的架構(gòu)。第一代K210芯片是內(nèi)置存儲,可以等同于單片機(MCU),還有專用的CNN裝置,這樣的架構(gòu)方式能夠大幅降低芯片功耗。在工藝上,K210采用了臺積電28nm制程,在單片機領(lǐng)域已經(jīng)達到最先進水平。
那么,嘉楠的礦機芯片已采用了臺積電的7 nm工藝,K210為何不采用7 nm?因為7 nm價格高。嘉楠做芯片的原則完全是為了商用,不是為了PPT,也不是為了融資,因此要考慮費效比。
5 8通道的音頻功能
K210的一大特色是,除了機器視覺能力外,還具備機器聽覺能力。芯片上帶有支持8通道高性能麥克風(fēng)陣列的音頻處理硬件,可以進行硬件加速的實時聲源定向與波束形成,無需占用主CPU資源。一顆芯片就可以實現(xiàn)聲源定向、聲場成像、波束形成、語音喚醒、語音識別等機器聽覺功能。
那么,音頻在此的目的是什么?因為從哲學(xué)角度,AI應(yīng)該是多種感官融合的,因此K210除了有圖像,也做了音頻。用圖像的方法處理音頻是可以做的,把音頻轉(zhuǎn)成圖譜,用計算機的眼睛可以去“看”。
另一個問題是:為何要做8通道?8通道麥克風(fēng)的應(yīng)用場景是什么?主要是為了有更遠的拾音距離,一般兩個麥克是三四米的拾音距離,4個麥克風(fēng)是5米,8個是6米左右。
此外,8麥克風(fēng)還有一些特殊應(yīng)用,例如做林業(yè)病蟲害防治的害蟲識別,這是和百度、林業(yè)大學(xué)合作的一個項目,方法是把麥克風(fēng)扎到樹里,聽蟲子嗑樹的聲音。這需要多組麥克風(fēng)設(shè)備扎到樹里。嘉楠的方案是一個40 mm見方的模塊,做了防水的處理。利用圖像分類、檢測的方法,去“看”視野里是否有特定的害蟲。這種方案的應(yīng)用前景十分廣闊,因為中國的森林非常多,而且它可以推到農(nóng)田等更多應(yīng)用場景。
圖 堪智的應(yīng)用場景(來源:堪智官網(wǎng))
6 躍升:即將問世的K510
2016年嘉楠已開始有了做AI芯片的想法,做了一兩年時間,本來計劃2017年底推出,但因當(dāng)時算法有很大突破和進展,又拖延到了2018年9月出爐,因此花了整整兩年時間。未來AI芯片的迭代速度加快,達到一年一代。
第二代產(chǎn)品的型號為K510。那么,為何型號從K210一下跳到 K510?因為性能提高很多,提升了5~10倍,有了外存(注:第一代沒有外部DRAM),并加入了對高清視頻的支持。
圖 K210的主要性能指標(biāo)(來源:堪智官網(wǎng):https://kendryte.com/)
7 未來:共建AIoT“芯”生態(tài)
事實上,邊緣側(cè)AI芯片業(yè)態(tài)尚未成熟,各家廠商也都處于摸索路徑。但嘉楠對于芯片生態(tài)的商業(yè)想象卻很豐滿。這來自于嘉楠對自身研發(fā)實力的業(yè)務(wù)經(jīng)驗的自信。為此,嘉楠做了很多嘗試,不僅局限于芯片,而是以芯片為落點,延伸至開發(fā)板、算法以及邊緣側(cè)的解決方案等。
更重要的是,嘉楠向外與AI廠商建立合作關(guān)系,通過合作補齊算法和數(shù)據(jù),同時也為自身的芯片尋找更多落地場景。同時,兼容性上,嘉楠也推出了第一代模型轉(zhuǎn)換工具,可以將英偉達等主流企業(yè)的軟件遷移到芯片中,對于開發(fā)者更為友好。
嘉楠的核心優(yōu)勢還體現(xiàn)在對于芯片研發(fā)設(shè)計體系的熟稔。張楠賡認為,之所以市面上涌現(xiàn)出大量的AI芯片產(chǎn)品,恰恰暴露了當(dāng)下AI產(chǎn)業(yè)沒有通用硬件平臺的現(xiàn)狀。以PC時代為例,Wintel聯(lián)盟的軟硬結(jié)合成為市場主導(dǎo),多數(shù)公司無需再單獨研發(fā)芯片。這也正式嘉楠等芯片廠商的機遇所在。
實際上,對于很多所謂的芯片廠商而言,ODM(委托設(shè)計)產(chǎn)品的性能很難保證,靠ODM驗證一下概念是可以的,但市場上也很少見到靠ODM成功的產(chǎn)品。而嘉楠不僅包含前端和后端設(shè)計,還包括標(biāo)準(zhǔn)庫的設(shè)計,以及數(shù)?;旌闲盘柕荣Y源,因此可更好地保證芯片的性能。
目前,K210的方案已用于智能門鎖、智能抄表等業(yè)務(wù)場景。合作伙伴可以通過嘉楠的SDK(軟件開發(fā)包)等開發(fā)出更多產(chǎn)品。
圖 堪智的SDK(來源:堪智官網(wǎng))
張楠賡表示,嘉楠希望和合作伙伴一道,構(gòu)建共贏格局的AIoT(人工智能物聯(lián)網(wǎng))商業(yè)生態(tài)。
評論