全球首個(gè)光子AI芯片原型發(fā)布

近日，AI芯片初創(chuàng)公司Lightelligence對外發(fā)布了世界第一款光子芯片原型板卡(Prototype)，團(tuán)隊(duì)在這個(gè)原型產(chǎn)品上成功用光子芯片運(yùn)行了Google Tensorflow自帶的卷積神經(jīng)網(wǎng)絡(luò)模型來處理MNIST數(shù)據(jù)集。測試中，整個(gè)模型超過95%的運(yùn)算是在光子芯片上完成的，其測試結(jié)果顯示，光子芯片處理的準(zhǔn)確率已經(jīng)接近電子芯片(97%以上)。該公司已經(jīng)與谷歌、FaceBook、AWS、BAT級別客戶進(jìn)行了接洽。

對于這家成立一年半的公司，這款芯片原型的誕生，驗(yàn)證了團(tuán)隊(duì)部分成員在2017年發(fā)表在NaturePhotonics期刊上的開創(chuàng)性想法——用光子代替電子來進(jìn)行AI計(jì)算。但是在那個(gè)時(shí)候，他們在實(shí)驗(yàn)室開發(fā)的整個(gè)光子計(jì)算系統(tǒng)占據(jù)了半個(gè)實(shí)驗(yàn)室。

在視頻演示中，團(tuán)隊(duì)在這個(gè)原型產(chǎn)品上成功用光子芯片運(yùn)行了GoogleTensorflow自帶的卷積神經(jīng)網(wǎng)絡(luò)模型來處理MNIST數(shù)據(jù)集。這是一個(gè)使用計(jì)算機(jī)視覺識別手寫數(shù)字的基準(zhǔn)機(jī)器學(xué)習(xí)模型，也是機(jī)器學(xué)習(xí)中最著名的基準(zhǔn)數(shù)據(jù)集之一。測試中，整個(gè)模型超過95%的運(yùn)算是在光子芯片上完成的處理，測試結(jié)果顯示，光子芯片處理的準(zhǔn)確率已經(jīng)接近電子芯片（97%以上），另外光子芯片完成矩陣乘法所用的時(shí)間是最先進(jìn)的電子芯片的1/100以內(nèi)。

LightelligenceCEO沈亦晨對DeepTech表示，公司計(jì)劃將該光子芯片提供給一些合作方、潛在客戶進(jìn)行測試，目前國外已經(jīng)有谷歌、FaceBook、AWS級別，國內(nèi)BAT級別的客戶與Lightelligence接洽。

他透露，盡管這款芯片還不是公司真正意義上的第一款商業(yè)化產(chǎn)品，在性能上也還有很大的提升空間，但卻是對團(tuán)隊(duì)開發(fā)完整光子AI芯片系統(tǒng)可行性的一個(gè)重要驗(yàn)證。

沈亦晨表示，在接下來的幾十年中，對于AI算法尤其是機(jī)器學(xué)習(xí)算法的計(jì)算需求仍將大幅增加，但與此同時(shí)，我們回過頭看過去幾年計(jì)算硬件的發(fā)展，其演進(jìn)速度正變得越來越慢，“從光子學(xué)的角度來看，我意識到，對于一些最基本的算法以及機(jī)器學(xué)習(xí)任務(wù)來說，光子可能是最佳的計(jì)算平臺。在我的博士生涯中，我用一個(gè)項(xiàng)目簡單地證明了這個(gè)概念性質(zhì)的設(shè)想，現(xiàn)在，Lightelligence的成立正在將這個(gè)設(shè)想從學(xué)術(shù)研究帶到真實(shí)世界”。

“我們從硬件到軟件做出了一套可以運(yùn)行的系統(tǒng)，原則上，它可以運(yùn)行任何神經(jīng)網(wǎng)絡(luò)系統(tǒng)，它也是就我們所知世界上第一臺完全獨(dú)立的光學(xué)計(jì)算AI加速器（standaloneopticalAIaccelerator）。Lightelligence現(xiàn)在發(fā)布這款芯片原型想傳達(dá)的另一個(gè)信息是，光學(xué)計(jì)算不再是一個(gè)“ScienceProject”，而是一個(gè)已經(jīng)接近于產(chǎn)品化的技術(shù)”，他說。

光學(xué)計(jì)算并不是一個(gè)全新的概念。

作為一種完全不同于電子計(jì)算的技術(shù)，光學(xué)計(jì)算以光子為信息處理載體，依賴光硬件而非電子硬件，以光運(yùn)算代替電運(yùn)算，擅長快速并行處理高度復(fù)雜的計(jì)算任務(wù)，但它一直沒找到合適的應(yīng)用場景，且受限于傳統(tǒng)分離式光學(xué)器件光場調(diào)控手段單一、光學(xué)設(shè)計(jì)體積龐大的缺點(diǎn)，光學(xué)計(jì)算一直都停留在實(shí)驗(yàn)室階段。

近幾年，電子計(jì)算愈發(fā)受制于摩爾定律，信息技術(shù)載體的存儲密度與運(yùn)算速度的提升愈發(fā)力不從心，讓一部分人將目光從“電”轉(zhuǎn)向了速度更快、能耗更低的“光”。

尤其是基于人工神經(jīng)網(wǎng)絡(luò)算法的深度學(xué)習(xí)系統(tǒng)的流行。不同于通用芯片所運(yùn)行的邏輯運(yùn)算，深度學(xué)習(xí)系統(tǒng)的大部分時(shí)間都花在低精度的矩陣乘法運(yùn)算上，而密集的矩陣乘法運(yùn)算，正是人工智能算法中最耗時(shí)間和功率的。

目前AI加速芯片都是基于電子運(yùn)算的，但在結(jié)合電子計(jì)算所有前沿技術(shù)的基礎(chǔ)上，光子芯片可以來執(zhí)行AI計(jì)算里最重要的兩個(gè)步驟：內(nèi)存到計(jì)算單元的數(shù)據(jù)傳輸以及矩陣運(yùn)算本身。這兩個(gè)方面光子芯片具有獨(dú)特優(yōu)勢。

由此，光子AI芯片的概念應(yīng)運(yùn)而生，利用光子來做矩陣乘法運(yùn)算，在功耗降低和速度提升上前景可期，很可能帶來光學(xué)計(jì)算有史以來最大的機(jī)會(huì)。

Lightelligence成立的目的，就是從光子芯片這個(gè)全新的角度來切入AI加速。

“對產(chǎn)業(yè)界來說，這可能開啟了一個(gè)全新的方向，而且它的發(fā)展速度遠(yuǎn)遠(yuǎn)高于電子運(yùn)算?！鄙蛞喑空f。

2016年，沈亦晨還在MIT做博士后，他所在的研究團(tuán)隊(duì)打造了首個(gè)光學(xué)計(jì)算系統(tǒng)。該成果于2017年以封面文章的形式發(fā)表在頂級期刊NaturePhotonics雜志上，其基于硬件和算法有著雙重創(chuàng)新：在硬件上，光干涉儀作為基本的矩陣運(yùn)算單元有效取代了傳統(tǒng)電子晶體管；在算法上，團(tuán)隊(duì)開發(fā)了一系列在不犧牲性能條件下有效降低深度學(xué)習(xí)計(jì)算量、并適應(yīng)于光子芯片的算法。

當(dāng)時(shí)，國際著名光學(xué)科學(xué)家、斯坦福大學(xué)終身正教授DavidMiller，曾專門在Nature雜志上撰文評價(jià)沈亦晨團(tuán)隊(duì)的光學(xué)AI芯片的研究成果，稱“這一系列的研究成果極大地推動(dòng)了集成光學(xué)在未來取代傳統(tǒng)電子計(jì)算芯片的發(fā)展?！?/p>

那篇論文可以說在全球范圍內(nèi)啟發(fā)更多人投入到光子AI芯片的開發(fā)中，帶來這一成果的MIT團(tuán)隊(duì)已經(jīng)誕生出Lightelligence和LightMatter兩家公司。

現(xiàn)在，Lightelligence團(tuán)隊(duì)正在全力研發(fā)光子芯片的相關(guān)技術(shù)，包含芯片設(shè)計(jì)、核心算法、傳輸、周邊等，欲打造一個(gè)完整的光學(xué)計(jì)算生態(tài)。全球包括Lightelligence在內(nèi)也已經(jīng)有5~6個(gè)團(tuán)隊(duì)正在進(jìn)行相關(guān)的研發(fā)及商業(yè)化，其中還不乏中國團(tuán)隊(duì)。盡管各家公司的目標(biāo)都不盡相同，從已經(jīng)公布的產(chǎn)品進(jìn)度來看，作為全球首個(gè)光子AI芯片的公司，Lightelligence仍將是最值得關(guān)注的公司之一。

以Lightelligence此次發(fā)布的芯片原型為例，和2017年的首個(gè)光學(xué)計(jì)算系統(tǒng)相比，其最大的改進(jìn)就體現(xiàn)在計(jì)算效率的提升、軟件環(huán)境和集成程度的成熟上。

Lightelligence團(tuán)隊(duì)本身擁有一系列獨(dú)立自主知識產(chǎn)權(quán)，包括光學(xué)器件設(shè)計(jì)、光學(xué)系統(tǒng)集成和深度學(xué)習(xí)算法的核心技術(shù)，在設(shè)計(jì)這款芯片的過程中，團(tuán)隊(duì)在這幾個(gè)方面的技術(shù)儲備得到了驗(yàn)證。

在開發(fā)的過程中，提升運(yùn)算速度和改善尺寸的工作是交叉進(jìn)行的。據(jù)沈亦晨介紹，原來實(shí)驗(yàn)室版本的機(jī)器集成度比較低，它的控制單元沒有集成在板卡上?，F(xiàn)在這款芯片原型的集成度大大提高，隨著集成程度的提高，運(yùn)算速度也大大提升。

而且開發(fā)上的主要任務(wù)不只是集成度方面的工作，還包括高速信號的控制。對于光子計(jì)算機(jī)來說，其中比較重要也比較難的一點(diǎn)就是，當(dāng)信號傳輸速度很快的時(shí)候，如何讓信號達(dá)到比較精確的強(qiáng)度。

最終，團(tuán)隊(duì)用了近一年半的時(shí)間打造出了這款尺寸與指甲蓋差不多、封裝了光纖的芯片原型。這在光學(xué)計(jì)算領(lǐng)域也是前所未有的。

而除了前文提到的MNIST圖像識別任務(wù)以外，這款芯片原型還可以運(yùn)行其他的計(jì)算任務(wù)，團(tuán)隊(duì)同時(shí)也提供軟件支持，與谷歌的Tensorflow，F(xiàn)acebook的Caffe2和Pytorch常用框架中的算法兼容。

沈亦晨表示：“團(tuán)隊(duì)希望任何通用的基于線性運(yùn)算的算法都可以在光子AI芯片上運(yùn)行，Lightelligence生產(chǎn)的是一款通用的AI芯片，同時(shí)我們也會(huì)自研更適合在光子芯片上運(yùn)算的算法，后期我們會(huì)發(fā)布相關(guān)的算法上的進(jìn)展。”

未來，光子AI芯片的發(fā)展能否引領(lǐng)算法開發(fā)上加大矩陣計(jì)算比重的“硬件定義軟件”風(fēng)潮，亦值得觀察。

3年內(nèi)推出第一款量產(chǎn)產(chǎn)品，面向服務(wù)器

目前，Lightelligence成立已經(jīng)一年半時(shí)間，團(tuán)隊(duì)的技術(shù)進(jìn)展并不完全體現(xiàn)在這次發(fā)布的芯片原型里，沈亦晨說，其實(shí)團(tuán)隊(duì)早在半年以前就已經(jīng)著手開發(fā)下一代芯片了，“我們的下一款芯片將會(huì)在性能上徹底顛覆現(xiàn)有的電子同類產(chǎn)品”。

基于光子AI芯片速度快、損耗少、算力高、成本低的這些特點(diǎn)，很多面臨性能瓶頸的深度學(xué)習(xí)場景將是這款產(chǎn)品大展身手的方向。因此，在應(yīng)用場景上，沈亦晨設(shè)想Lightelligence的第一款產(chǎn)品將面向服務(wù)器和自動(dòng)駕駛。

“第一款光子AI芯片的產(chǎn)品定位不是低端市場，我們的競爭力不是價(jià)格和尺寸大小，而是同一塊板卡的性能，針對這個(gè)優(yōu)勢我們的應(yīng)用場景確定為以上兩個(gè)市場?！鄙蛞喑空f。他曾提到，電子芯片的生態(tài)鏈條非常完善，整個(gè)產(chǎn)業(yè)已經(jīng)達(dá)到數(shù)以十億、百億計(jì)的規(guī)模。和電子芯片的完善的生態(tài)鏈條不同，光子芯片還在剛剛起步的階段，這也決定了其產(chǎn)品可能沒辦法短期內(nèi)進(jìn)入到輕量級、個(gè)人級的應(yīng)用中。

未來的汽車工業(yè)很可能是光子AI芯片的最重要市場之一，例如，以Lidar技術(shù)所需要的大量光源和光探測器來說，光子AI芯片有望提供一個(gè)低成本、低功耗的解決方案。不過，自動(dòng)駕駛的市場仍比較小，Lightelligence仍會(huì)先從服務(wù)器市場切入，然后過渡到自動(dòng)駕駛中。

現(xiàn)在，在融資上，Lightelligence已于2017年底獲得包括百度風(fēng)投和真格基金在內(nèi)的超過1000萬美元的風(fēng)險(xiǎn)投資，團(tuán)隊(duì)規(guī)模也從最初麻省理工學(xué)院出來的三人團(tuán)隊(duì)發(fā)展到了二十多人全職團(tuán)隊(duì)，成員背景包括麻省理工學(xué)院、哥倫比亞大學(xué)、佐治亞理工大學(xué)、北京大學(xué)和加州大學(xué)伯克利分校等。團(tuán)隊(duì)也吸引了很多業(yè)界專業(yè)人士加入，最引人注目的恐怕就是GilbertHendry和MauriceSteinman了。

GilbertHendry博士畢業(yè)于哥倫比亞大學(xué)，曾在谷歌和微軟工作過5年，并且主持開發(fā)過多款機(jī)器學(xué)習(xí)產(chǎn)品，現(xiàn)在是Lightelligence的軟件部負(fù)責(zé)人及機(jī)器學(xué)習(xí)首席工程師。MauriceSteinman是Lightelligence的工程副總裁，加入Lightelligence之前曾任AMD首席芯片架構(gòu)師，并主持開發(fā)了AMD用于高通量信息傳輸?shù)钠炫灝a(chǎn)品infinityfabric，有超過30年的豐富的半導(dǎo)體行業(yè)經(jīng)驗(yàn)。

但必須承認(rèn)，光子AI芯片整體依然仍處于非常早期的階段，光子AI芯片公司面臨的落地風(fēng)險(xiǎn)和技術(shù)挑戰(zhàn)并不比其他AI芯片公司的小。但是，人類在追求更高程度的機(jī)器智能過程中，對芯片計(jì)算能力的需求只會(huì)不斷增加，光子AI芯片有希望能夠彌補(bǔ)電子芯片的不足，在一些特殊的計(jì)算領(lǐng)域超過電子芯片。

有意思的是，許多人了解到光子AI芯片和光學(xué)計(jì)算之后，更感興趣的不是其與電子計(jì)算的比較，反而好奇光子計(jì)算和量子計(jì)算有什么區(qū)別，兩者哪一個(gè)將更快改變產(chǎn)業(yè)現(xiàn)狀。

和量子計(jì)算相比，光子計(jì)算發(fā)展的時(shí)間短，投入研發(fā)的人力也相對較少，聽起來是一個(gè)更為小眾的領(lǐng)域。但光子計(jì)算對算力的提升不一定亞于量子計(jì)算，而且在技術(shù)實(shí)現(xiàn)上，其制造流程可兼容目前的CMOS工藝，在量產(chǎn)難度上遠(yuǎn)低于量子計(jì)算，更容易與現(xiàn)有的計(jì)算周邊生態(tài)進(jìn)行配合，可說是目前發(fā)展的次世代計(jì)算架構(gòu)中，最有機(jī)會(huì)實(shí)現(xiàn)普及量產(chǎn)目標(biāo)的一個(gè)。