兄弟二人聯(lián)合創(chuàng)業(yè)，AI編譯器開始的AI“芯“歷程

指令集架構(gòu)是處理器的抽象模型，目前主宰微處理器市場的主要指令集架構(gòu)包括 ARM、MIPS、POWER 和 X86 等，經(jīng)過多年的發(fā)展，上述架構(gòu)已擁有穩(wěn)定成熟的軟件生態(tài)，同時也存在一些問題，比如為了獲取兼容性而引入了復(fù)雜冗長的指令，以及防止軟件生態(tài)的碎片化而采取了封閉式指令集維護(hù)，這使得客戶不可隨意擴(kuò)展其該架構(gòu)的指令集。在IoT/AIoT大行其道，定制化的硬件軟件（DSA/DSL）架構(gòu)盛行的今天，這種封閉式的指令集架構(gòu)存在的問題逐漸顯露。

每個時代都有其鮮明的時代特色，處理器指令集架構(gòu)也不例外， RISC-V 指令集架構(gòu)就屬于時代催生的產(chǎn)物，憑借其免費(fèi)開放的指令集、便捷的指令集擴(kuò)展標(biāo)準(zhǔn)等優(yōu)勢，一經(jīng)問世便深受國內(nèi)外芯片設(shè)計企業(yè)、高等院校和芯片設(shè)計愛好者的歡迎。

目前有很多開源組織、科研院所、商業(yè)公司無償開源其 RISC-V 處理器IP及相關(guān)工具軟件，其中有些開源 RISC-V 處理器IP在性能和功耗等方面能夠與商用處理器 IP 媲美，甚至超過了部分商用處理器 IP。

作為指令集架構(gòu)大家族中的新貴，RISC-V 尚屬發(fā)展的早期階段，雖然基礎(chǔ)指令集的定義已經(jīng)完善，但有不少指令擴(kuò)展標(biāo)準(zhǔn)還在開發(fā)階段。更值得一提的是其軟件生態(tài)的發(fā)展，用匱乏來描述毫不夸張，也正是這種匱乏在制約著 RISC-V 的進(jìn)一步推廣以及在實(shí)際芯片產(chǎn)品中的應(yīng)用。但從目前開源 RISC-V 處理器的個數(shù)、增加的速度和代碼的質(zhì)量來看， RISC-V 有著不可估量的發(fā)展前景，同時它也預(yù)示著硬件開源時代的到來。

正是在此背景下，海山和海明兩兄弟義無反顧地踏上了創(chuàng)業(yè)之路，他們不僅都是資深的開源愛好者，同時也是最佳合作伙伴，其中海山主要研發(fā)軟件，海明主要研發(fā)硬件。能夠軟、硬件互補(bǔ)是他們最大的優(yōu)勢所在。

圖示：譯芯科技創(chuàng)始人海山和海明

兄弟二人聯(lián)手踏上創(chuàng)業(yè)之路

早在 2006 年開源微處理器還未被行業(yè)所了解和接納的時候，二人便開始利用業(yè)余時間合力打造 5 級流水線的 RISC 處理器 Potato-I 及配套的 GCC 編譯器，最終以參賽的形式將處理器代碼提交到 Xilinx 的 OpenHW 網(wǎng)站，并在第一屆 Xilinx 開源硬件大賽上取得優(yōu)異成績。

處理器架構(gòu)的優(yōu)美和編譯器內(nèi)部的神奇始終吸引著兩位創(chuàng)始人，不僅工作和學(xué)習(xí)在圍繞著這兩個方向發(fā)展，處理器和編譯器設(shè)計也成為了他們的終身愛好。早在 2015 年 RISC-V 指令集開放后，二人便著手設(shè)計實(shí)現(xiàn)了一款 RISC-V 處理器核，并且萌生了共同創(chuàng)業(yè)進(jìn)軍微處理器市場的想法，但限于當(dāng)時國內(nèi)行業(yè)對 RISC-V 的甚少了解和對微處理器設(shè)計的不重視，最終未能得到投資人認(rèn)可的二人只能選擇放棄。

放棄了第一次創(chuàng)業(yè)后，兄弟倆重新選擇步入職場，其中海明加入到國內(nèi) AI 初創(chuàng)企業(yè)云知聲，海山則繼續(xù)在知名外企從事軟件研發(fā)工作。能夠軟、硬件互補(bǔ)的他們從未放棄過開源這一愛好，也就是從 2015 年那一刻起海山便開始了 RISC-V LLVM 編譯器的業(yè)余開發(fā)工作，并在幾年后完成了 LLVM 編譯器的后端研發(fā)。

2019 年 5 月，海山拿著當(dāng)時市面上功能最完整，同時可靠性和穩(wěn)定性都已達(dá)到可商用化指標(biāo)的RISC-V LLVM編譯器創(chuàng)立了北京譯芯科技，海明緊隨其后，也加入到了譯芯科技。至此，兄弟二人再次在譯芯科技開始了創(chuàng)業(yè)之路。

由于創(chuàng)業(yè)之初就有了成熟穩(wěn)定的 RISC-V LLVM 編譯器，譯芯科技成立不久便推出了 RISC-V 商用 LLVM 編譯器及基于該編譯器的RISC-V AI工具軟件，并通過該AI工具業(yè)界首次實(shí)現(xiàn)了TensorFlow XLA demo在RISC-V硬件上的運(yùn)行。譯芯科技RISC-V  LLVM編譯器和AI編譯器不僅為 RISC-V 處理器在人工智能領(lǐng)域的落地提供有力的工具鏈支撐，同時開啟了 RISC-V 處理器走向智能 Android 設(shè)備的大門。

下一步將開辟AI市場

對于譯芯科技而言，LLVM 編譯器的研發(fā)成功是公司創(chuàng)立的基石，而下一步便是要正式應(yīng)對市場的考驗(yàn)，進(jìn)而踏入 AI 和安卓這兩大應(yīng)用領(lǐng)域。由于公司剛剛成立不久，不具備同時打造兩款產(chǎn)品的條件，因此結(jié)合人力、物力投入，市場行情等多種因素后，兄弟倆決定首先主攻 AI 市場，從 AI 處理器切入，結(jié)合完善的 AI 工具鏈，打入 AI IP/芯片市場。

實(shí)際上，進(jìn)入 AI 市場是兄弟二人深思熟慮后的決定?！翱傆X得2015 年過早放棄 RISC-V 處理器創(chuàng)業(yè)探索是個莫大的遺憾，可能是因?yàn)橄霃浹a(bǔ)這個遺憾，我一直在關(guān)注開源處理器的發(fā)展，后來發(fā)現(xiàn)另外一個即將爆發(fā)的芯片市場，是一個全新的芯片類型，也就是今天的 AI 芯片。于是我果斷加入了云知聲，并有幸打造云知聲第一款語音 AI 芯片。當(dāng)初國內(nèi)很少聽到有專門設(shè)計AI芯片的公司和團(tuán)隊(duì)，市場更是見不到如今遍地開花、耳熟能詳?shù)?AI 芯片，所以我也算是國內(nèi)最早接觸 AI 芯片的一撥人?！焙Ｃ骰貞浀馈?/p>

他繼續(xù)說道：“其實(shí)我最早接觸 AI 是在 2006 年的時候，當(dāng)初我們實(shí)驗(yàn)室做某種檢測設(shè)備的師姐每天用酒精訓(xùn)練她的設(shè)備，出于好奇心，我不時的請教訓(xùn)練中的奧秘，也是從那一刻起我對 AI 的將來深信不疑，之后也接觸到一些很有趣的機(jī)器視覺相關(guān)項(xiàng)目。這些經(jīng)歷或許和我后來選擇從事 AI 芯片設(shè)計，并創(chuàng)立 AI 芯片公司有著千絲萬縷的聯(lián)系?！?/p>

譯芯科技 demo演示

值得一提的是，2020 年 2 月，譯芯科技已經(jīng)完成了AIoT SoC芯片 FPGA 演示平臺。與此同時，在此前集微網(wǎng)舉辦的“第二期芯力量&云路演”活動中，譯芯科技還展示了其首款 AIoT 芯片的FPGA Demo，主要演示了通過語音識別控制照明系統(tǒng)的功能，包括開燈、關(guān)燈和調(diào)整燈光亮度等一系列控制命令詞。

“FPGA Demo 的展示也意味著譯芯科技并不是一家只講故事的 AI 公司，更不是 PPT 芯片公司，我們確實(shí)在研發(fā) AI 芯片產(chǎn)品?！焙Ｃ鬟M(jìn)一步介紹道，目前譯芯的 AI IP 已具備商業(yè)授權(quán)條件，AIoT  SoC預(yù)計在 2020 年第 3 季度達(dá)到流片要求，預(yù)計 2020 年第 4 季度流片第一顆通用 AIoT 芯片。

首款 AI 芯片具備兩大優(yōu)勢

“經(jīng)過這幾年的摸爬滾打，我對 AI 芯片的理解也在不斷變化，其中最根本的變化是硬件優(yōu)先到軟件優(yōu)先的變化，這種認(rèn)知上的變化也是創(chuàng)立譯芯科技的最根本的動力所在。”顯然，對于 AI 芯片海明有著自己深刻的理解。

在海明的講述中可以得知，其實(shí)海山最早也是這個觀點(diǎn)：“不管是一個從事軟件開發(fā)人員的偏執(zhí)也好，還是高瞻遠(yuǎn)矚也罷，他總是走在我前面，看在我前面，在我癡迷與打造 AI 芯片時，他已經(jīng)著手籌備今天的 AI 編譯器了。成立譯芯科技的根基和信心來自于的 LLVM 編譯器和 AI 編譯器，我也堅信時間會證明這兩個軟件的價值，同時也證明譯芯科技的存在價值。”

在海明看來，其實(shí)從 AI 概念爆發(fā)到現(xiàn)在，從 AI 芯片的競爭力的角度來說已經(jīng)經(jīng)歷了從軟件算法的性能優(yōu)先到芯片架構(gòu)優(yōu)先，再到芯片成本優(yōu)先三個階段，而下一階段應(yīng)該是“成本+通用性”優(yōu)先。只關(guān)注成本控制，不具備通用性的 AI 芯片，會繼續(xù)以 turn-key 方式存在并出貨，但不久的將來turn-key 方案會逐漸被低成本和通用性兼?zhèn)涞?AI 芯片所替代。因此海明認(rèn)為，AI 芯片最終將從 turn-key 轉(zhuǎn)為 turn-chip 方式出貨。

在“turn-chip”的模式下，AI 芯片架構(gòu)對算法研究人員或工程師來說是透明的，他們可以把 AI framework 打造的模型直接編譯并燒寫到 AI 芯片上，其與在 GPU 上開發(fā) AI 應(yīng)用一樣便捷。而這也是譯芯科技的終極目標(biāo)：為芯片客戶提供低成本且通用的 AI 芯片，不再讓 AI 芯片的成本和 AI 算法移植過程，成為高性價比的 AI硬件產(chǎn)品開發(fā)的瓶頸。

基于此，譯芯科技所研發(fā)的第一款 AI 芯片將具備兩大優(yōu)勢：一是通用性強(qiáng)，二是性價比高。海明和海山選擇開源免費(fèi)的 RISC-V 作為基礎(chǔ)處理器，對其進(jìn)行 AI 指令擴(kuò)展，并搭建了自己的 AI 處理器。最終，客戶可借助譯芯科技的 AI 編譯器，將 AI 模型到 AI 硬件的繁瑣人工優(yōu)化工作變?yōu)楹唵蔚臋C(jī)器編譯過程。因此，低成本和通用性是譯芯 AI 芯片的核心競爭力。 

堅持不同以往的 AI創(chuàng)業(yè)之路

“我們希望我們打造的是個‘AISP’芯片，也就是基于 AI 的信號處理器芯片。信號可以是語音、圖像，也可以是傳感器采集過來的任何一種類型的信號。希望一線的研發(fā)人員，就像使用 Matlab 開發(fā) DSP 算法一樣，采用Tensorflow、caffe、pytorch 等AI開發(fā)工具，開發(fā)其AI算法，并一鍵編譯的形式將AI算法落地到我們的“AISP”芯片上，最終實(shí)現(xiàn)其硬件產(chǎn)品?！焙Ｃ鞲嬖V集微網(wǎng)記者。

海明認(rèn)為，AI 芯片投資最佳窗口已過，過去幾年大量的公司將研發(fā)力量和資金投入到 AI 芯片架構(gòu)設(shè)計和流片上，大家更關(guān)注芯片算力、能效比等硬性參數(shù)指標(biāo)，而對AI軟件工具的重視程度和研發(fā)投入遠(yuǎn)遠(yuǎn)不夠。這直接導(dǎo)致了很多 AI 芯片面對 Google 和 NVIDA 的嵌入式邊緣計算平臺時黯然失色。

在 AI 的創(chuàng)業(yè)道路上，譯芯科技顯然要走一條與以往選手不同的道路。“我們強(qiáng)調(diào)的是芯片的通用性和低成本，我們不僅把有限的資源投入到降低芯片成本的探索上，就如我們正在打造的開源 SoC 平臺，同樣也會投入到工具軟件的研發(fā)上，即我們的AI軟件生態(tài)的構(gòu)建和完善上面。”海明說道。

關(guān)于打造自主 IP 和開源 IP 為一體的 SoC 平臺的必要性，海明說道：“隨著芯片制造工藝的日益成熟，芯片制造成本不斷降低，而隨著社會的進(jìn)步人力成本會越發(fā)昂貴，也就是芯片加工會變得越來越便宜，而芯片采用的IP成本有可能不降反而上升。另外，如今的芯片行業(yè)早已不是暴力行業(yè)，一款芯片的銷量和所帶來的利潤遠(yuǎn)不及過去。這也對很多芯片廠商的成本控制能力提出了更高的要求。例如一個投入兩三百萬美元的芯片項(xiàng)目除了人力和芯片加工外所需的IP成本占總投入的一半以上，而其中前兩者的降幅有限，所以成本控制主要體現(xiàn)在IP成本的控制上。這也是我們打造自主研發(fā)IP和開源IP為一體的SoC平臺的目的?！?/p>

談起創(chuàng)業(yè)過程，海明感慨萬千，雖然創(chuàng)業(yè)不到一年，但經(jīng)歷的蠻多，除了兄弟二人無法左右的外部環(huán)境外，按照海明的話說：“萬事開頭難，何況我們的開頭是技術(shù)瓶頸更高的編譯器，市場不易打開的軟件，競爭激烈的芯片，投資窗口已過的AI芯片?！?/p>

羅馬非一日建成！如今的譯芯科技還是一家剛成立不滿一年的 AI 芯片初創(chuàng)企業(yè)，在競爭激烈的 AI 市場中仍然有很長的一段路要走。而在海明為公司設(shè)定的三年規(guī)劃中，AI 終端芯片顯然只是開始，未來公司還將涉入到 AI 云端芯片市場中，探索更多的可能性。

（校對/范蓉）