人工智能(AI)可以幫助我們識(shí)別罪犯,識(shí)別某些疾病,識(shí)別語音,計(jì)算路況信息等等,但這些技術(shù)進(jìn)步的背后可能意味著過多的計(jì)算量。
當(dāng)前,人工智能的發(fā)展主要依靠3個(gè)因素推進(jìn):算法創(chuàng)新、數(shù)據(jù)量,以及計(jì)算量。2018年,人工智能非營利組織OpenAI發(fā)布了一項(xiàng)研究稱,算法創(chuàng)新和數(shù)據(jù)往往難以跟蹤,但計(jì)算量卻可以量化,這就為測(cè)量AI發(fā)展進(jìn)度提供了機(jī)會(huì)。研究跟蹤了2012年以來人工智能的計(jì)算量,得出的結(jié)論是訓(xùn)練大型模型所需的計(jì)算資源每三到四個(gè)月就會(huì)翻一番。相比之下,摩爾定律的周期為18個(gè)月。
除了OpenAI的研究外,據(jù)《MIT科技評(píng)論》報(bào)道,今年6月份,另一項(xiàng)研究發(fā)現(xiàn),特別是開發(fā)大規(guī)模的自然語言處理模型可能會(huì)產(chǎn)生令人震驚的
碳足跡。
之所以會(huì)產(chǎn)生這樣的趨勢(shì),是由于大多數(shù)的研究團(tuán)隊(duì)都更看重最新技術(shù)水平的研發(fā),而不考慮開發(fā)成本。
換句話說,這些研究團(tuán)隊(duì)更愿意對(duì)外表明自己技術(shù)提高了多少,而不愿意透露技術(shù)改進(jìn)背后的成本增加。據(jù)
專家預(yù)測(cè),如果按照現(xiàn)有的發(fā)展速度,到2025年,人工智能的用電量將占世界用電量的十分之一。
在一篇新
論文中,艾倫人工智能研究所(AI2)認(rèn)為,這樣的趨勢(shì)對(duì)于人工智能的多樣性和進(jìn)步也產(chǎn)生影響:導(dǎo)致需要大量計(jì)算資源才完成的科技成果在AI學(xué)術(shù)界享受特權(quán)。例如,這可能會(huì)將該領(lǐng)域的發(fā)展局限于更符合公司激勵(lì)的短期項(xiàng)目,而不是有利于公眾的長期進(jìn)步項(xiàng)目。
為了改變這樣的情況, AI2研究人員提出了一種激勵(lì)機(jī)器學(xué)習(xí)節(jié)能的新方法。AI2的研究人員建議,AI研究人員應(yīng)公布訓(xùn)練模型的財(cái)務(wù)和計(jì)算成本,以及他們的績效結(jié)果。研究人員希望提高透明度,從而激勵(lì)更多的投資投入到開發(fā)高效機(jī)器學(xué)習(xí)算法領(lǐng)域。
艾倫人工智能研究院CEO Oren Etzioni認(rèn)為,來自出版物和頂級(jí)
會(huì)議的論文評(píng)審人應(yīng)該獎(jiǎng)勵(lì)那些提高效率和準(zhǔn)確性的研究。不過,他也指出,在人們對(duì)效率指標(biāo)進(jìn)行標(biāo)準(zhǔn)化之前,很難評(píng)估這種貢獻(xiàn)的重要性。
之所以在當(dāng)下提出這樣的方法,Etzioni稱是看到了近年來,一些科技公司研究實(shí)驗(yàn)室在深度學(xué)習(xí)中投入的計(jì)算量急劇上升。
Etzioni希望人工智能研究社區(qū)能意識(shí)到這種權(quán)衡。另外,投資更高效的算法可以從可用的資源中獲得更多的利潤,并產(chǎn)生其他收益。“這不是一個(gè)或兩件事,我們只是想在這個(gè)領(lǐng)域取得更好的平衡。” 他說。
2014年,艾倫人工智能研究所由微軟聯(lián)合創(chuàng)始人保羅·艾倫(Paul Allen)與他人共同創(chuàng)立,專注于研究人工智能可能給人類帶來的幫助。目前主要專注于四個(gè)項(xiàng)目:名為Aristo的機(jī)器閱讀與推理程序、SemanticScholar語義理解搜索程序,Euclid自然語言理解程序和Plato計(jì)算機(jī)視覺程序。
【版權(quán)聲明】本網(wǎng)為公益類網(wǎng)站,本網(wǎng)站刊載的所有內(nèi)容,均已署名來源和作者,僅供訪問者個(gè)人學(xué)習(xí)、研究或欣賞之用,如有侵權(quán)請(qǐng)權(quán)利人予以告知,本站將立即做刪除處理(QQ:51999076)。