ai on arm 文章進(jìn)入ai on arm技術(shù)社區(qū)

AI需求帶動(dòng) 全球主板重返成長(zhǎng)榮光

AI需求強(qiáng)勁，帶旺主板產(chǎn)業(yè)！中國(guó)臺(tái)灣電路板協(xié)會(huì)預(yù)期，2024年全球主板市場(chǎng)將達(dá)153.2億美元，年增14.8％，重返成長(zhǎng)軌道。中國(guó)臺(tái)灣電路板協(xié)會(huì)分析，主因終端產(chǎn)品庫(kù)存調(diào)整見效，消費(fèi)市場(chǎng)復(fù)蘇跡象顯現(xiàn)，特別是AI需求強(qiáng)勁，將會(huì)驅(qū)動(dòng)高階主板的復(fù)蘇動(dòng)力。主板產(chǎn)業(yè)在2023年成長(zhǎng)動(dòng)能受挫，主要是受到全球通膨影響，消費(fèi)性市場(chǎng)急速降溫，連帶波及主板需求。無(wú)論是應(yīng)用于手機(jī)和內(nèi)存的BT主板，還是應(yīng)用于CPU和GPU的ABF主板，都出現(xiàn)了下滑。根據(jù)工研院產(chǎn)科所統(tǒng)計(jì)，2023年全球主板產(chǎn)值約133.4億美元，年減26.7％。
關(guān)鍵字： AI 主板

三星確認(rèn)今年將推出 AI 升級(jí)版 Bixby，由自研大語(yǔ)言模型提供支持

IT之家 7 月 11 日消息，三星確認(rèn) Bixby 將很快獲得人工智能升級(jí)。在 Galaxy Z Flip 6 和 Galaxy Z Fold 6 發(fā)布后，三星移動(dòng)部門 CEO TM Roh 在接受 CNBC 采訪時(shí)表示，公司將在今年晚些時(shí)候發(fā)布升級(jí)版 Bixby，并由三星自家的大語(yǔ)言模型（LLM）提供支持。Roh 表示：“我們將通過(guò)應(yīng)用生成式人工智能技術(shù)來(lái)提升 Bixby 的能力?！睅讉€(gè)月前，三星推出過(guò)名為“Samsung Gauss”的自研 LLM。此前曾有報(bào)道稱三星正在研發(fā)升級(jí)版 Bix
關(guān)鍵字：三星 AI Bixby

Windows on Arm 繼續(xù)存在高通拯救了Microsoft

PC芯片競(jìng)爭(zhēng)升溫高通驍龍X的推出使x86處于劣勢(shì)，至少目前是這樣。
關(guān)鍵字： Windows on Arm 高通 Microsoft Copilot Plus

高速運(yùn)算平臺(tái)內(nèi)存爭(zhēng)霸 AI應(yīng)用推升內(nèi)存需求

在不同AI運(yùn)算領(lǐng)域中，依照市場(chǎng)等級(jí)的需要，大致上可以分成三種，一種是作為高性能運(yùn)算中心的人工智能、機(jī)器學(xué)習(xí)與圖形處理的超高速運(yùn)算與傳輸需求；一種是一般企業(yè)的AI服務(wù)器、一般計(jì)算機(jī)與筆電的演算應(yīng)用；另一種是一般消費(fèi)電子如手機(jī)、特殊應(yīng)用裝置或其它邊緣運(yùn)算的應(yīng)用。現(xiàn)階段三種等級(jí)的應(yīng)用，所搭配的內(nèi)存也會(huì)有所不同，等級(jí)越高內(nèi)存的性能要求越高，業(yè)者要進(jìn)入的門坎也越高。不過(guò)因?yàn)楦黝怉I應(yīng)用的市場(chǎng)需求龐大，各種內(nèi)存的競(jìng)爭(zhēng)也異常的激烈，不斷地開發(fā)更新產(chǎn)品，降低成本，企圖向上向下擴(kuò)大應(yīng)用，所以只有隨時(shí)保持容量、速度與可靠度的
關(guān)鍵字：高速運(yùn)算平臺(tái) 內(nèi)存 AI 內(nèi)存需求

全球AI競(jìng)賽，美國(guó)的優(yōu)勢(shì)不止英偉達(dá)

人工智能的全球市場(chǎng)競(jìng)爭(zhēng)中，「主權(quán)人工智能」開始成為越來(lái)越重要的議題。關(guān)于這個(gè)話題的大多數(shù)討論都集中在以下幾個(gè)核心問(wèn)題：世界各國(guó)都希望盡快成為萬(wàn)億美元人工智能市場(chǎng)，并讓人工智能成為本國(guó)經(jīng)濟(jì)增長(zhǎng)的關(guān)鍵引擎各個(gè)國(guó)家、地區(qū)都想要建立反映當(dāng)?shù)卣Z(yǔ)言、政治和文化的本土人工智能系統(tǒng)各個(gè)國(guó)家、地區(qū)都認(rèn)為技術(shù)獨(dú)立是一種應(yīng)對(duì)當(dāng)前緊張的世界政治格局的正確選擇這種「技術(shù)主權(quán)」的焦慮，主要來(lái)自人們已經(jīng)深刻認(rèn)識(shí)到技術(shù)落要面對(duì)的代價(jià)。美國(guó)科技的領(lǐng)先帶來(lái)的福利越來(lái)越清晰。20 世紀(jì) 80 年代和 90 年代，微軟和英特爾等美國(guó)科技巨頭主宰
關(guān)鍵字： AI

加速基于 Arm Neoverse N2 的大語(yǔ)言模型推理

人工智能 (AI) 正在眾多行業(yè)掀起浪潮，尤其是在大語(yǔ)言模型 (LLM) 問(wèn)世后，AI 發(fā)展呈現(xiàn)井噴之勢(shì)。LLM 模型不僅極大改變了我們與技術(shù)的交互方式，并且在自然語(yǔ)言理解和生成方面展現(xiàn)出了驚人的能力。雖然 GPU 在訓(xùn)練生成式 AI 模型方面發(fā)揮了重要作用，但在推理領(lǐng)域，除了 GPU 和加速器之外，還有其他可行的選擇。長(zhǎng)期以來(lái)，CPU 一直被用于傳統(tǒng)的 AI 和機(jī)器學(xué)習(xí) (ML) 用例，由于 CPU 能夠處理廣泛多樣的任務(wù)且部署起來(lái)更加靈活，因此當(dāng)企業(yè)和開發(fā)者尋求將 LLM 集成到產(chǎn)品和服務(wù)中時(shí)，CPU
關(guān)鍵字： Arm Neoverse 大語(yǔ)言模型

借助小語(yǔ)言模型，高效 Arm 計(jì)算賦能定制化 AI 未來(lái)

隨著我們逐步邁入人工智能 (AI) 的世界，小體量模型愈發(fā)具有大優(yōu)勢(shì)。在過(guò)去的一年多里，大語(yǔ)言模型 (LLM) 推動(dòng)了生成式 AI 的早期創(chuàng)新浪潮，訓(xùn)練參數(shù)量朝萬(wàn)億級(jí)規(guī)模邁進(jìn)，但越來(lái)越多的證據(jù)表明，無(wú)限制地?cái)U(kuò)展 LLM 并不具備可持續(xù)性。至少來(lái)說(shuō)，通過(guò)此方式來(lái)發(fā)展 AI 所需的基礎(chǔ)設(shè)施成本過(guò)于高昂，僅有少數(shù)企業(yè)可以承受。此類 LLM 需要消耗大量算力和電力，運(yùn)營(yíng)成本不菲。這些項(xiàng)目將帶來(lái)沉重的財(cái)務(wù)和資源負(fù)擔(dān)，例如 GPT-4 的訓(xùn)練成本至少為一億美元。除此之外，這些 LLM 的開發(fā)和部署過(guò)程也相對(duì)復(fù)雜。劍橋
關(guān)鍵字： Arm

Arm 驅(qū)動(dòng)汽車行業(yè)芯粒開發(fā)與部署

汽車的算力需求呈現(xiàn)持續(xù)增長(zhǎng)的態(tài)勢(shì)。為了追求更高的自動(dòng)駕駛性能、先進(jìn)的車內(nèi)體驗(yàn)，以及向電氣化的轉(zhuǎn)變，軟件和人工智能 (AI) 正在加速發(fā)展，驅(qū)動(dòng)一個(gè)由 AI 賦能的軟件定義汽車 (SDV) 時(shí)代。與此同時(shí)，先進(jìn)駕駛輔助系統(tǒng) (ADAS)、自動(dòng)駕駛和車載信息娛樂 (IVI) 等關(guān)鍵的汽車用例，需要采用異構(gòu)計(jì)算方法來(lái)滿足復(fù)雜的計(jì)算要求。以 IVI 為例，它正逐步演變?yōu)槿娴臄?shù)字平臺(tái)，配備更多高分辨率顯示屏，并引入眾多新的應(yīng)用。同時(shí)，ADAS 也在不斷擴(kuò)增新的計(jì)算特性和安全功能，兩者均對(duì) AI 性能提出了更高的要
關(guān)鍵字： Arm

ST Edge AI Suite人工智能開發(fā)套件正式上線快采用意法半導(dǎo)體技術(shù)的AI產(chǎn)品開發(fā)速度

服務(wù)多重電子應(yīng)用領(lǐng)域、全球排名前列的半導(dǎo)體公司意法半導(dǎo)體 (STMicroelectronics,簡(jiǎn)稱ST) 近日宣布人工智能開發(fā)套件ST Edge AI Suite正式上市。該開發(fā)套件整合工具、軟件和知識(shí)，簡(jiǎn)化并加快邊緣應(yīng)用的開發(fā)。ST Edge AI Suite 是一套集成化軟件工具，旨在簡(jiǎn)化嵌入式 AI應(yīng)用的開發(fā)部署。整套軟件支持機(jī)器學(xué)習(xí)算法優(yōu)化部署，從最初的數(shù)據(jù)收集開始，到最終的在硬件上部署模型，簡(jiǎn)化人工智能的整個(gè)開發(fā)流程，適合各類用戶在嵌入式設(shè)備上開發(fā)人工智能。從智能傳感器到微控制器和微處理器，
關(guān)鍵字： ST Edge AI Suite 人工智能意法半導(dǎo)體 AI

半導(dǎo)體，江湖變了

從早期的真空管到如今的集成電路，半導(dǎo)體行業(yè)的發(fā)展如同一場(chǎng)沒有終點(diǎn)的賽跑。人們一直在思考：「半導(dǎo)體行業(yè)，會(huì)有永遠(yuǎn)的大贏家嗎？」歷史的車輪滾滾向前，半導(dǎo)體行業(yè)經(jīng)歷了無(wú)數(shù)次的變革與洗牌。曾經(jīng)稱霸一時(shí)的巨頭可能在瞬間黯然失色，新興的力量又如同雨后春筍般崛起。這個(gè)行業(yè)的競(jìng)爭(zhēng)之激烈，變化之迅速，讓每一個(gè)參與者都如同在波濤洶涌的海洋中前行，稍有不慎便可能被浪潮淹沒。半導(dǎo)體行業(yè)永遠(yuǎn)有「英雄」，但不是所有「英雄」都能夠穩(wěn)坐王位。「王者」x86 迎來(lái)新挑戰(zhàn)CPU 的發(fā)展史簡(jiǎn)單來(lái)說(shuō)就是英特爾公司的發(fā)展歷史。x86 系列 CPU
關(guān)鍵字： x86 Arm

消息稱英偉達(dá)今年將交付超 100 萬(wàn)顆 H20 AI 芯片

7 月 5 日消息，英國(guó)《金融時(shí)報(bào)》消息稱，未來(lái)幾個(gè)月英偉達(dá)將交付超過(guò) 100 萬(wàn)顆新款 H20 AI 芯片，這是英偉達(dá)針對(duì)中國(guó)市場(chǎng)推出的“特供”版本，目的是符合美國(guó)的出口管制新規(guī)。每顆 H20 芯片的售價(jià)超過(guò) 12000 美元（IT之家備注：當(dāng)前約 87393 元人民幣），意味著英偉達(dá)今年僅H20 芯片就將產(chǎn)生超過(guò) 120 億美元（當(dāng)前約 873.93 億元人民幣）的銷售額。這將超過(guò)英偉達(dá)上個(gè)財(cái)年中整個(gè)中國(guó)業(yè)務(wù)（包括向 PC 游戲玩家銷售 GPU 和其他產(chǎn)品）所獲得的 103 億美元（當(dāng)前約 750.1
關(guān)鍵字：英偉達(dá) H20 AI 芯片

歐盟委員會(huì)競(jìng)爭(zhēng)專員：英偉達(dá) AI 芯片供應(yīng)存在“巨大瓶頸”

7 月 6 日消息，據(jù)彭博社當(dāng)?shù)貢r(shí)間周五晚間報(bào)道，歐盟委員會(huì)競(jìng)爭(zhēng)事務(wù)專員瑪格麗特?維斯塔格發(fā)出警告：英偉達(dá)的 AI 芯片供應(yīng)存在“巨大瓶頸（huge bottleneck）”，監(jiān)管機(jī)構(gòu)仍在考慮是否或如何采取行動(dòng)?！拔覀円呀?jīng)向他們提出了一些問(wèn)題，但還處于非常初步的階段，”她在訪問(wèn)新加坡期間告訴彭博社，目前這還“不足以”成為監(jiān)管行動(dòng)的依據(jù)。自從成為 AI 支出熱潮的最大受益者以來(lái)，英偉達(dá)一直受到監(jiān)管機(jī)構(gòu)的關(guān)注。因?yàn)槟軌蛱幚黹_發(fā) AI 模型所需的海量信息，英偉達(dá)的 GPU 備受數(shù)據(jù)中心運(yùn)營(yíng)商青睞。報(bào)道指出，這些
關(guān)鍵字：英偉達(dá) AI 芯片臺(tái)積電

摩爾線程夸娥智算集群再升級(jí)，擴(kuò)展至萬(wàn)卡規(guī)模

據(jù)摩爾線程官微消息，7月3日，摩爾線程宣布其AI旗艦產(chǎn)品夸娥（KUAE）智算集群解決方案實(shí)現(xiàn)重大升級(jí)，從當(dāng)前的千卡級(jí)別大幅擴(kuò)展至萬(wàn)卡規(guī)模。據(jù)悉，摩爾線程夸娥（KUAE）萬(wàn)卡智算集群，以全功能GPU為底座，旨在打造國(guó)內(nèi)領(lǐng)先的、能夠承載萬(wàn)卡規(guī)模、具備萬(wàn)P級(jí)浮點(diǎn)運(yùn)算能力的國(guó)產(chǎn)通用加速計(jì)算平臺(tái)，專為萬(wàn)億參數(shù)級(jí)別的復(fù)雜大模型訓(xùn)練而設(shè)計(jì)。全新一代夸娥智算集群實(shí)現(xiàn)單集群規(guī)模超萬(wàn)卡，浮點(diǎn)運(yùn)算能力達(dá)到10Exa-Flops，大幅提升單集群計(jì)算性能，能夠?yàn)槿f(wàn)億參數(shù)級(jí)別大模型訓(xùn)練提供堅(jiān)實(shí)算力基礎(chǔ)。同時(shí)，在GPU顯存和傳輸帶寬方
關(guān)鍵字：摩爾線程 AI 萬(wàn)卡智算

FOPLP導(dǎo)入AI GPU 估2027年量產(chǎn)

源自臺(tái)積電2016年之InFO（整合扇出型封裝）的FOWLP（扇出型晶圓級(jí)封裝）技術(shù)，伴隨AMD、輝達(dá)等業(yè)者積極洽談以FOPLP（扇出型面板級(jí)封裝）進(jìn)行芯片封裝，帶動(dòng)市場(chǎng)對(duì)FOPLP（扇出型面板級(jí)封裝）關(guān)注。集邦科技指出，該應(yīng)用將暫時(shí)止步于PMIC（電源管理IC）等制程成熟、成本敏感的產(chǎn)品，待技術(shù)成熟后才導(dǎo)入至主流消費(fèi)性IC產(chǎn)品，AI GPU則要到2027年才有望進(jìn)入量產(chǎn)。集邦科技分析，F(xiàn)OPLP技術(shù)目前有三種主要應(yīng)用模式，首先是OSAT（封裝測(cè)試）業(yè)者將消費(fèi)性IC封裝從傳統(tǒng)方式轉(zhuǎn)換至FOPLP，其次是
關(guān)鍵字： FOPLP AI GPU 臺(tái)積電

革新企業(yè)數(shù)據(jù)管理，邁向“真正的”混合云時(shí)代

如今，混合云在許多新興創(chuàng)新應(yīng)用中發(fā)揮著核心作用，尤其是在人工智能（AI）和其他能夠創(chuàng)造新商業(yè)價(jià)值和提高運(yùn)營(yíng)效率的新興技術(shù)方面表現(xiàn)最為顯著。據(jù)調(diào)查結(jié)果顯示，2024年至2029年，中國(guó)人工智能行業(yè)的市場(chǎng)規(guī)模將進(jìn)一步擴(kuò)大，2029年市場(chǎng)規(guī)模將突破萬(wàn)億大關(guān)。但是，AI需要大量且高質(zhì)量的數(shù)據(jù)以充分發(fā)揮自身潛力。如果沒有高質(zhì)量的數(shù)據(jù)，AI的輸出就會(huì)變得低效或不準(zhǔn)確。肯睿Cloudera與Foundry的研究發(fā)現(xiàn)，36%的IT領(lǐng)導(dǎo)者將這一點(diǎn)列為首要挑戰(zhàn)。此外，一項(xiàng)IDC調(diào)查顯示，中國(guó)只有22%的企業(yè)可較好地定義應(yīng)用人
關(guān)鍵字：人工智能 AI