站在CPU角度 你才能發(fā)現(xiàn)這個世界有多慢

　　經(jīng)常聽到有人說磁盤很慢、網(wǎng)絡(luò)很卡，這都是站在人類的感知維度去表述的，比如拷貝一個文件到硬盤需要幾分鐘到幾十分鐘，夠我去吃個飯啦;而從網(wǎng)絡(luò)下載一部電影，有時候需要幾個小時，我都可以睡一覺了。

　　最為我們熟知的關(guān)于計算機(jī)不同組件速度差異的圖表，是下面這種金字塔形式：越往上速度越快，容量越小，而價格越高。

　　這張圖只是給了我們一個直觀地感覺，并沒有對各個速度和性能做出量化的說明和解釋。而實際上，不同層級之間的差異要比這張圖大的多。這篇文章就讓你站在 CPU 的角度看這個世界，說說到底它們有多慢。

　　希望你看完這篇文章能明白兩件事情：磁盤和網(wǎng)絡(luò)真的很慢，性能優(yōu)化是個復(fù)雜的系統(tǒng)性的活。

　　注：所有的數(shù)據(jù)都是來自網(wǎng)絡(luò)。所有的數(shù)據(jù)會因為機(jī)器配置不同，或者硬件的更新而有出入，但是不影響我們直覺的感受。

數(shù) 據(jù)

　　先來看看 CPU 的速度，就拿我的電腦來說，主頻是 2.6G，也就是說每秒可以執(zhí)行 2.6*10^9個指令，每個指令只需要 0.38ns(現(xiàn)在很多個人計算機(jī)的主頻要比這個高，配置比較高的能達(dá)到 3.0G+)。我們把這個時間當(dāng)做基本單位 1s，因為 1s 大概是人類能感知的最小時間單位。

　　一級緩存讀取時間為 0.5ns，換算成人類時間大約是 1.3s，大約一次或者兩次心跳的時間。這里能看出緩存的重要性，因為它的速度可以趕上 CPU，程序本身的 locality 特性加上指令層級上的優(yōu)化，cache 訪問的命中率很高，這最終能極大提高效率。

　　分支預(yù)測錯誤需要耗時 5ns，換算成人類時間大約是 13s，這個就有點久了，所以你會看到很多文章分析如何優(yōu)化代碼來降低分支預(yù)測的幾率，比如這個得分非常高的 stackoverflow 問題。

　　二級緩存時間就比較久了，大約在 7ns，換算成人類時間大約是 18.2s，可以看到的是如果一級緩存沒有命中，然后去二級緩存讀取數(shù)據(jù)，時間差了一個數(shù)量級。

　　我們繼續(xù)，互斥鎖的加鎖和解鎖時間需要 25ns，換算成人類時間大約是 65s，首次達(dá)到了一分鐘。并發(fā)編程中，我們經(jīng)常聽說鎖是一個很耗時的東西，因為在微波爐里加熱一個東西需要一分鐘的話，你要在那傻傻地等蠻久了。

　　然后就到了內(nèi)存，每次內(nèi)存尋址需要 100ns，換算成人類時間是 260s，也就是4分多鐘，如果讀一些不需要太多思考的文章，這么久能讀完2-3千字(這個快閱讀的時代，很少人在手機(jī)上能靜心多這么字了)?？雌饋磉€不算壞，不多要從內(nèi)存中讀取一段數(shù)據(jù)，需要的時候很更多。到了內(nèi)存之后，時間就變得一個量級，CPU 和內(nèi)存之間的速度瓶頸被稱為馮諾依曼瓶頸

　　一次 CPU 上下文切換(系統(tǒng)調(diào)用)需要大約 1500ns，也就是 1.5us(這個數(shù)字參考了其他文章)。

　　在 1Gbps 的網(wǎng)絡(luò)上傳輸 2K 的數(shù)據(jù)需要 20us，換算成人類時間是 14.4小時，這么久都能把《星球大戰(zhàn)》六部曲看完了!可以看到網(wǎng)絡(luò)上非常少數(shù)據(jù)傳輸對于 CPU 來說，已經(jīng)很漫長。而且這里的時間還是理論最大值，實際過程還要更慢一些。

　　SSD 隨機(jī)讀取耗時為 150us，換算成人類時間大約是 4.5天。換句話說，SSD 讀點數(shù)據(jù)，CPU 都能休假，報團(tuán)參加周邊游了。雖然我們知道 SSD 要比機(jī)械硬盤快很多，但是這個速度對于 CPU 來說也是像烏龜一樣。I/O 設(shè)備 從硬盤開始速度開始變得漫長，這個時候我們就想起內(nèi)存的好處了。盡量減少 IO 設(shè)備的讀寫，把最常用的數(shù)據(jù)放到內(nèi)存中作為緩存是所有程序的通識。像 memcached 和 redis 這樣的高速緩存系統(tǒng)近幾年的異軍突起，就是解決了這里的問題。

　　從內(nèi)存中讀取 1MB 的連續(xù)數(shù)據(jù)，耗時大約為 250us，換算成人類時間是 7.5天，這次假期升級到國慶七天國外游了。

　　同一個數(shù)據(jù)中心網(wǎng)絡(luò)上跑一個來回需要 0.5ms，換算成人類時間大約是 15天，也就是半個月的時間。如果你的程序有段代碼需要和數(shù)據(jù)中心的其他服務(wù)器交互，在這段時間里 CPU 都已經(jīng)狂做了半個月的運(yùn)算。減少不同服務(wù)組件的網(wǎng)絡(luò)請求，是性能優(yōu)化的一大課題。

　　從 SSD 讀取 1MB 的順序數(shù)據(jù)，大約需要 1ms，換算成人類時間是 1個月。也就是說 SSD 讀一個普通的文件，如果要等你做完，CPU 一個月時間就荒廢了。盡管如此，SSD 已經(jīng)很快啦，不信你看下面機(jī)械磁盤的表現(xiàn)。

　　磁盤尋址時間為 10ms，換算成人類時間是 10個月，剛好夠人類創(chuàng)造一個新的生命了。如果 CPU 需要讓磁盤泡杯咖啡，在它眼里，磁盤去生了個孩子，回來告訴它你讓我泡的咖啡好了。機(jī)械硬盤使用 RPM(Revolutions Per Minute/每分鐘轉(zhuǎn)速) 來評估磁盤的性能：RPM 越大，平均尋址時間更短，磁盤性能越好。尋址只是把磁頭移動到正確的磁道上，然后才能讀取指定扇區(qū)的內(nèi)容。換句話說，尋址雖然很浪費(fèi)時間，但其實它并沒有辦任何的正事(讀取磁盤內(nèi)容)。

　　從磁盤讀取 1MB 連續(xù)數(shù)據(jù)需要 20ms，換算成人類時間是 20個月。IO 設(shè)備是計算機(jī)系統(tǒng)的瓶頸，希望讀到這里你能更深切地理解這句話!如果還不理解，不妨想想你在網(wǎng)上買的東西，快遞送了將近兩年，你的心情是怎么樣的。

　　而從世界上不同城市網(wǎng)絡(luò)上走一個來回，平均需要 150ms(參考世界各地 ping 報文的時間CDN)。

　　虛擬機(jī)重啟一次大約要 4s 時間，換算成人類的時間是 3百多年。對于此，我想到了喬布斯要死命優(yōu)化 Mac 系統(tǒng)開機(jī)啟動時間。

　　物理服務(wù)器重啟一次需要 5min，換算成人類時間是 2萬5千年，快趕上人類的文明史了。5 分鐘人類都要等一會了，更別提 CPU 了，所以沒事不要亂重啟服務(wù)器啊，分分鐘終結(jié)一個文明的節(jié)奏。