沒有算法功力,是不可能成為高手的
算法是計(jì)算機(jī)科學(xué)領(lǐng)域最重要的基石之一,但卻受到了國(guó)內(nèi)一些程序員的冷落。許多學(xué)生看到一些公司在招聘時(shí)要求的編程語言五花八門就產(chǎn)生了一種誤解,認(rèn)為學(xué)計(jì)算機(jī)就是學(xué)各種編程語言,或者認(rèn)為,學(xué)習(xí)最新的語言、技術(shù)、標(biāo)準(zhǔn)就是最好的鋪路方法。其實(shí)大家都被這些公司誤導(dǎo)了。編程語言雖然該學(xué),但是學(xué)習(xí)計(jì)算機(jī)算法和理論更重要,因?yàn)橛?jì)算機(jī)算法和理論更重要,因?yàn)橛?jì)算機(jī)語言和開發(fā)平臺(tái)日新月異,但萬變不離其宗的是那些算法和理論,例如數(shù)據(jù)結(jié)構(gòu)、算法、編譯原理、計(jì)算機(jī)體系結(jié)構(gòu)、關(guān)系型數(shù)據(jù)庫(kù)原理等等。在“開復(fù)學(xué)生網(wǎng)”上,有位同學(xué)生動(dòng)地把這些基礎(chǔ)課程比擬為“內(nèi)功”,把新的語言、技術(shù)、標(biāo)準(zhǔn)比擬為“外功”。整天趕時(shí)髦的人最后只懂得招式,沒有功力,是不可能成為高手的。
本文引用地址:http://www.ex-cimer.com/article/201710/365606.htm算法與我
當(dāng)我在1980年轉(zhuǎn)入計(jì)算機(jī)科學(xué)系時(shí),還沒有多少人的專業(yè)方向是計(jì)算機(jī)科學(xué)。有許多其他系的人嘲笑我們說:“知道為什么只有你們系要加一個(gè)‘科學(xué)’,而沒有‘物理科學(xué)系’或‘化學(xué)科學(xué)系’嗎?因?yàn)槿思沂钦娴目茖W(xué),不需要畫蛇添足,而你們自己心虛,生怕不‘科學(xué)’,才這樣欲蓋彌彰。”其實(shí),這點(diǎn)他們徹底弄錯(cuò)了。真正學(xué)懂計(jì)算機(jī)的人(不只是“編程匠”)都對(duì)數(shù)學(xué)有相當(dāng)?shù)脑煸?,既能用科學(xué)家的嚴(yán)謹(jǐn)思維來求證,也能用工程師的務(wù)實(shí)手段來解決問題——而這種思維和手段的最佳演繹就是“算法”。
記得我讀博時(shí)寫的Othello對(duì)弈軟件獲得了世界冠軍。當(dāng)時(shí),得第二名的人認(rèn)為我是靠?jī)e幸才打贏他,不服氣地問我的程序平均每秒能搜索多少步棋,當(dāng)他發(fā)現(xiàn)我的軟件在搜索效率上比他快60多倍時(shí),才徹底服輸。為什么在同樣的機(jī)器上,我可以多做60倍的工作呢?這是因?yàn)槲矣昧艘粋€(gè)最新的算法,能夠把一個(gè)指數(shù)函數(shù)轉(zhuǎn)換成四個(gè)近似的表,只要用常數(shù)時(shí)間就可得到近似的答案。在這個(gè)例子中,是否用對(duì)算法才是能否贏得世界冠軍的關(guān)鍵。
還記得1988年貝爾實(shí)驗(yàn)室副總裁親自來訪問我的學(xué)校,目的就是為了想了解為什么他們的語音識(shí)別系統(tǒng)比我開發(fā)的慢幾十倍,而且,在擴(kuò)大至大詞匯系統(tǒng)后,速度差異更有幾百倍之多。他們雖然買了幾臺(tái)超級(jí)計(jì)算機(jī),勉強(qiáng)讓系統(tǒng)跑了起來,但這么貴的計(jì)算資源讓他們的產(chǎn)品部門很反感,因?yàn)?ldquo;昂貴”的技術(shù)是沒有應(yīng)用前景的。在與他們探討的過程中,我驚訝地發(fā)現(xiàn)一個(gè)O(n*m)的動(dòng)態(tài)規(guī)劃(dynamic programming)居然被他們做成了O(n*n*m)。更驚訝的是,他們還為此發(fā)表了不少文章,甚至為自己的算法起了一個(gè)很特別的名字,并將算法提名到一個(gè)科學(xué)會(huì)議里,希望能得到大獎(jiǎng)。當(dāng)時(shí),貝爾實(shí)驗(yàn)室的研究員當(dāng)然絕頂聰明,但他們?nèi)际菍W(xué)數(shù)學(xué)、物理或電機(jī)出身,從未學(xué)過計(jì)算機(jī)科學(xué)或算法,才犯了這么基本的錯(cuò)誤。我想那些人以后再也不會(huì)嘲笑學(xué)計(jì)算機(jī)科學(xué)的人了吧!
網(wǎng)絡(luò)時(shí)代的算法
有人也許會(huì)說:“今天計(jì)算機(jī)這么快,算法還重要嗎?”其實(shí)永遠(yuǎn)不會(huì)有太快的計(jì)算機(jī),因?yàn)槲覀兛倳?huì)想出新的應(yīng)用。雖然在摩爾定律的作用下,計(jì)算機(jī)的計(jì)算能力每年都在飛快增長(zhǎng),價(jià)格也在不斷下降。可我們不要忘記,需要處理的信息量更是呈指數(shù)級(jí)的增長(zhǎng)。現(xiàn)在每人每天都會(huì)創(chuàng)造出大量數(shù)據(jù)(照片,視頻,語音,文本等等)。日益先進(jìn)的紀(jì)錄和存儲(chǔ)手段使我們每個(gè)人的信息量都在爆炸式的增長(zhǎng)。互聯(lián)網(wǎng)的信息流量和日志容量也在飛快增長(zhǎng)。在科學(xué)研究方面,隨著研究手段的進(jìn)步,數(shù)據(jù)量更是達(dá)到了前所未有的程度。無論是三維圖形、海量數(shù)據(jù)處理、機(jī)器學(xué)習(xí)、語音識(shí)別,都需要極大的計(jì)算量。在網(wǎng)絡(luò)時(shí)代,越來越多的挑戰(zhàn)需要靠卓越的算法來解決。
再舉另一個(gè)網(wǎng)絡(luò)時(shí)代的例子。在互聯(lián)網(wǎng)和手機(jī)搜索,如果要找附近的咖啡店,那么搜索引擎該怎么處理這個(gè)請(qǐng)求呢?最簡(jiǎn)單的辦法就是把整個(gè)城市的咖啡館都找出來,然后計(jì)算出它們的所在位置與你之間的距離,再進(jìn)行排序,然后返回最近的結(jié)果。但該如何計(jì)算距離呢?圖論里有不少算法可以解決這個(gè)問題。
這么做也許是最直觀的,但絕對(duì)不是最迅速的。如果一個(gè)城市只有為數(shù)不多的咖啡館,那么這么做應(yīng)該沒什么問題,反正計(jì)算量不大。但如果一個(gè)城市里有很多咖啡館,又有很多用戶都需要類似的搜索,那么服務(wù)器所承受的壓力就大多了。在這種情況下,我們?cè)撛鯓觾?yōu)化算法呢?
首先,我們可以把整個(gè)城市的咖啡館做一次“預(yù)處理”。比如,把一個(gè)城市分成若干個(gè)“格子(grid)”,然后根據(jù)用戶所在的位置把他放到某一個(gè)格子里,只對(duì)格子里的咖啡館進(jìn)行距離排序。
問題又來了,如果格子大小一樣,那么絕大多數(shù)結(jié)果都可能出現(xiàn)在市中心的一個(gè)格子里,而郊區(qū)的格子里只有極少的結(jié)果。在這種情況下,我們應(yīng)該把市中心多分出幾個(gè)格子。更進(jìn)一步,格子應(yīng)該是一個(gè)“樹結(jié)構(gòu)”,最頂層是一個(gè)大格——整個(gè)城市,然后逐層下降,格子越來越小,這樣有利于用戶進(jìn)行精確搜索——如果在最底層的格子里搜索結(jié)果不多,用戶可以逐級(jí)上升,放大搜索范圍。
上述算法對(duì)咖啡館的例子很實(shí)用,但是它具有通用性嗎?答案是否定的。把咖啡館抽象一下,它是一個(gè)“點(diǎn)”,如果要搜索一個(gè)“面”該怎么辦呢?比如,用戶想去一個(gè)水庫(kù)玩,而一個(gè)水庫(kù)有好幾個(gè)入口,那么哪一個(gè)離用戶最近呢?這個(gè)時(shí)候,上述“樹結(jié)構(gòu)”就要改成“r-tree”,因?yàn)闃渲虚g的每一個(gè)節(jié)點(diǎn)都是一個(gè)范圍,一個(gè)有邊界的范圍(參考:~hjs/rtrees/index.html)。
通過這個(gè)小例子,我們看到,應(yīng)用程序的要求千變?nèi)f化,很多時(shí)候需要把一個(gè)復(fù)雜的問題分解成若干簡(jiǎn)單的小問題,然后再選用合適的算法和數(shù)據(jù)結(jié)構(gòu)。
并行算法:Google的核心優(yōu)勢(shì)
上面的例子在Google里就要算是小case了!每天Google的網(wǎng)站要處理十億個(gè)以上的搜索,GMail要儲(chǔ)存幾千萬用戶的2G郵箱,Google Earth要讓數(shù)十萬用戶同時(shí)在整個(gè)地球上遨游,并將合適的圖片經(jīng)過互聯(lián)網(wǎng)提交給每個(gè)用戶。如果沒有好的算法,這些應(yīng)用都無法成為現(xiàn)實(shí)。
在這些的應(yīng)用中,哪怕是最基本的問題都會(huì)給傳統(tǒng)的計(jì)算帶來很大的挑戰(zhàn)。例如,每天都有十億以上的用戶訪問Google的網(wǎng)站,使用Google的服務(wù),也產(chǎn)生很多很多的日志(Log)。因?yàn)長(zhǎng)og每份每秒都在飛速增加,我們必須有聰明的辦法來進(jìn)行處理。我曾經(jīng)在面試中問過關(guān)于如何對(duì)Log進(jìn)行一些分析處理的問題,有很多面試者的回答雖然在邏輯上正確,但是實(shí)際應(yīng)用中是幾乎不可行的。按照它們的算法,即便用上幾萬臺(tái)機(jī)器,我們的處理速度都根不上數(shù)據(jù)產(chǎn)生的速度。
那么Google是如何解決這些問題的?
首先,在網(wǎng)絡(luò)時(shí)代,就算有最好的算法,也要能在并行計(jì)算的環(huán)境下執(zhí)行。在Google的數(shù)據(jù)中心,我們使用的是超大的并行計(jì)算機(jī)。但傳統(tǒng)的并行算法運(yùn)行時(shí),效率會(huì)在增加機(jī)器數(shù)量后迅速降低,也就是說,十臺(tái)機(jī)器如果有五倍的效果,增加到一千臺(tái)時(shí)也許就只有幾十倍的效果。這種事半功倍的代價(jià)是沒有哪家公司可以負(fù)擔(dān)得起的。而且,在許多并行算法中,只要一個(gè)結(jié)點(diǎn)犯錯(cuò)誤,所有計(jì)算都會(huì)前功盡棄。
那么Google是如何開發(fā)出既有效率又能容錯(cuò)的并行計(jì)算的呢?
Google最資深的計(jì)算機(jī)科學(xué)家Jeff Dean認(rèn)識(shí)到,Google所需的絕大部分?jǐn)?shù)據(jù)處理都可以歸結(jié)為一個(gè)簡(jiǎn)單的并行算法:Map and Reduce()。這個(gè)算法能夠在很多種計(jì)算中達(dá)到相當(dāng)高的效率,而且是可擴(kuò)展的(也就是說,一千臺(tái)機(jī)器就算不能達(dá)到一千倍的效果,至少也可以達(dá)到幾百倍的效果)。Map and Reduce的另外一大特色是它可以利用大批廉價(jià)的機(jī)器組成功能強(qiáng)大的server farm。最后,它的容錯(cuò)性能異常出色,就算一個(gè)server farm宕掉一半,整個(gè)fram依然能夠運(yùn)行。正是因?yàn)檫@個(gè)天才的認(rèn)識(shí),才有了Map and Reduce算法。借助該算法,Google幾乎能無限地增加計(jì)算量,與日新月異的互聯(lián)網(wǎng)應(yīng)用一同成長(zhǎng)。
算法并不局限于計(jì)算機(jī)和網(wǎng)絡(luò)
舉一個(gè)計(jì)算機(jī)領(lǐng)域外的例子:在高能物理研究方面,很多實(shí)驗(yàn)每秒鐘都能有幾個(gè)TB的數(shù)據(jù)量。但因?yàn)樘幚砟芰痛鎯?chǔ)能力的不足,科學(xué)家不得不把絕大部分未經(jīng)處理的數(shù)據(jù)丟棄掉??纱蠹乙溃略氐男畔⒑苡锌赡芫筒卦谖覀儊聿患疤幚淼臄?shù)據(jù)里面。同樣的,在其他任何領(lǐng)域里,算法可以改變?nèi)祟惖纳?。例如人類基因的研究,就可能因?yàn)樗惴ǘl(fā)明新的醫(yī)療方式。在國(guó)家安全領(lǐng)域,有效的算法可能避免下一個(gè)911的發(fā)生。在氣象方面,算法可以更好地預(yù)測(cè)未來天災(zāi)的發(fā)生,以拯救生命。
所以,如果你把計(jì)算機(jī)的發(fā)展放到應(yīng)用和數(shù)據(jù)飛速增長(zhǎng)的大環(huán)境下,你一定會(huì)發(fā)現(xiàn);算法的重要性不是在日益減小,而是在日益加強(qiáng)。
評(píng)論