小型語言模型 文章 進(jìn)入小型語言模型技術(shù)社區(qū)

蘋果Microsoft縮小人工智能模型以改進(jìn)它們

• 科技公司已經(jīng)陷入了一場(chǎng)構(gòu)建最大的大型語言模型（LLM）的競賽中。例如，今年 4 月，Meta 宣布了 4000 億參數(shù)的 Llama 3，它包含的參數(shù)數(shù)量（或決定模型如何響應(yīng)查詢的變量）是 OpenAI 2022 年原始 ChatGPT 模型的兩倍。雖然尚未得到證實(shí)，但 GPT-4 估計(jì)有大約 1.8 萬億個(gè)參數(shù)。然而，在過去的幾個(gè)月里，包括蘋果和Microsoft在內(nèi)的一些最大的科技公司已經(jīng)推出了小型語言模型（SLM）。這些模型的規(guī)模只是 LLM 對(duì)應(yīng)模型的一小部分，但在許多基準(zhǔn)測(cè)試中，它們可以與它們相
• 關(guān)鍵字： 蘋果  Microsoft  人工智能模型  小型語言模型