人工智能技術(shù)背后的碳足跡驚人,研究人員呼吁提高創(chuàng)新效率
人工智能(AI)可以幫助我們識別罪犯,識別某些疾病,識別語音,計算路況信息等等,但這些技術(shù)進步的背后可能意味著過多的計算量。
本文引用地址:http://www.ex-cimer.com/article/201908/403546.htm當(dāng)前,人工智能的發(fā)展主要依靠3個因素推進:算法創(chuàng)新、數(shù)據(jù)量,以及計算量。2018年,人工智能非營利組織OpenAI發(fā)布了一項研究稱,算法創(chuàng)新和數(shù)據(jù)往往難以跟蹤,但計算量卻可以量化,這就為測量AI發(fā)展進度提供了機會。研究跟蹤了2012年以來人工智能的計算量,得出的結(jié)論是訓(xùn)練大型模型所需的計算資源每三到四個月就會翻一番。相比之下,摩爾定律的周期為18個月。
除了OpenAI的研究外,據(jù)《MIT科技評論》報道,今年6月份,另一項研究發(fā)現(xiàn),特別是開發(fā)大規(guī)模的自然語言處理模型可能會產(chǎn)生令人震驚的碳足跡。
之所以會產(chǎn)生這樣的趨勢,是由于大多數(shù)的研究團隊都更看重最新技術(shù)水平的研發(fā),而不考慮開發(fā)成本。
換句話說,這些研究團隊更愿意對外表明自己技術(shù)提高了多少,而不愿意透露技術(shù)改進背后的成本增加。據(jù)專家預(yù)測,如果按照現(xiàn)有的發(fā)展速度,到2025年,人工智能的用電量將占世界用電量的十分之一。
在一篇新論文中,艾倫人工智能研究所(AI2)認為,這樣的趨勢對于人工智能的多樣性和進步也產(chǎn)生影響:導(dǎo)致需要大量計算資源才完成的科技成果在AI學(xué)術(shù)界享受特權(quán)。例如,這可能會將該領(lǐng)域的發(fā)展局限于更符合公司激勵的短期項目,而不是有利于公眾的長期進步項目。
為了改變這樣的情況, AI2研究人員提出了一種激勵機器學(xué)習(xí)節(jié)能的新方法。AI2的研究人員建議,AI研究人員應(yīng)公布訓(xùn)練模型的財務(wù)和計算成本,以及他們的績效結(jié)果。研究人員希望提高透明度,從而激勵更多的投資投入到開發(fā)高效機器學(xué)習(xí)算法領(lǐng)域。
艾倫人工智能研究院CEO Oren Etzioni認為,來自出版物和頂級會議的論文評審人應(yīng)該獎勵那些提高效率和準確性的研究。不過,他也指出,在人們對效率指標進行標準化之前,很難評估這種貢獻的重要性。
之所以在當(dāng)下提出這樣的方法,Etzioni稱是看到了近年來,一些科技公司研究實驗室在深度學(xué)習(xí)中投入的計算量急劇上升。
Etzioni希望人工智能研究社區(qū)能意識到這種權(quán)衡。另外,投資更高效的算法可以從可用的資源中獲得更多的利潤,并產(chǎn)生其他收益?!斑@不是一個或兩件事,我們只是想在這個領(lǐng)域取得更好的平衡?!?他說。
2014年,艾倫人工智能研究所由微軟聯(lián)合創(chuàng)始人保羅·艾倫(Paul Allen)與他人共同創(chuàng)立,專注于研究人工智能可能給人類帶來的幫助。目前主要專注于四個項目:名為Aristo的機器閱讀與推理程序、SemanticScholar語義理解搜索程序,Euclid自然語言理解程序和Plato計算機視覺程序。
評論