比B200快10倍?AI芯片初創(chuàng)公司Etched沖擊英偉達(dá)
據(jù)媒體報(bào)道,硅谷人工智能(AI)芯片初創(chuàng)公司Etched表示,已在A輪融資中籌集1.2億美元,該公司計(jì)劃利用這筆資金進(jìn)一步開發(fā)其專用AI芯片。
本文引用地址:http://www.ex-cimer.com/article/202406/460434.htm據(jù)報(bào)道,由哈佛輟學(xué)生Gavin Uberti和Chris Zhu于2022年創(chuàng)立的Etched,憑借其用于AI的ASIC芯片,從最底層的架構(gòu)層面為主流AI大模型公司所采用的Transformer計(jì)算提供更優(yōu)性價(jià)比的選擇,在AI硬件領(lǐng)域引發(fā)了高度關(guān)注。
報(bào)道稱,Etched開發(fā)了一款名為Sohu的專為Transformer模型設(shè)計(jì)的ASIC芯片。Etched聲稱,Sohu芯片推理Llama-3 70B的速度比英偉達(dá)的H100快20倍,比今年3月推出的頂配芯片B200快上超過10倍,且功耗卻大大降低。
Sohu芯片減少了用于存儲器的空間,而將更多空間用于計(jì)算用途的晶體管,并通過只有一個大內(nèi)核的設(shè)計(jì),減少了用來協(xié)調(diào)不同內(nèi)核的低效計(jì)算。
Etched表示,公司聘請了先前曾在賽普拉斯、博通等半導(dǎo)體公司工作過的人才,芯片則交給臺積電的Emerging Business Group制造。目前其Sohu AI芯片可以支援Google、Meta、微軟、OpenAI、Anthropic等大型科技公司所有的熱門Transformer。
作為隨著Transformer模型不斷推動生成式AI突破,Sohu芯片被認(rèn)為有望在AI推理側(cè)打破英偉達(dá)GPU一家獨(dú)大的格局,重塑AI計(jì)算的格局。
不過,據(jù)彭博社報(bào)道,Etched的Sohu芯片是執(zhí)行Transformer這類AI演算法,一旦未來有另一種類型的演算法取代了Transformer AI,Sohu就會沒用了。而英偉的GPU,例如H100是可以適用于任何AI演算法的。正如Gavin Uberti在接受采訪時表示,“我們正在人工智能領(lǐng)域下最大的賭注”,“如果Transformer消失了,我們就會死。但如果它們繼續(xù)存在,我們就是有史以來最大的公司。”
評論