淺談嵌入式軟件測(cè)試

測(cè)試是傳統(tǒng)軟件開(kāi)發(fā)的最后一步。整個(gè)軟件開(kāi)發(fā)過(guò)程，需要收集要求、進(jìn)行高層次的設(shè)計(jì)、詳細(xì)設(shè)計(jì)、創(chuàng)建代碼、進(jìn)行部分單元測(cè)試，然后集成，最后才開(kāi)始最終測(cè)試。

最佳的開(kāi)發(fā)實(shí)踐應(yīng)包含代碼檢查這個(gè)步驟。然而代碼檢查一般只能找出70%的系統(tǒng)錯(cuò)誤，因此完美的測(cè)試環(huán)節(jié)絕對(duì)必不可少。測(cè)試就像個(gè)復(fù)式記帳系統(tǒng)，可以確保將缺陷扼殺在最終推出的產(chǎn)品之前。

在所有其它的工程實(shí)踐中，測(cè)試都被視為基本環(huán)節(jié)。比如，在美國(guó)，每一座聯(lián)邦政府出資修建的橋都必須經(jīng)過(guò)大量的風(fēng)洞測(cè)試。而在軟件領(lǐng)域，測(cè)試并沒(méi)有很受重視。盡管測(cè)試是所有工程實(shí)踐準(zhǔn)則的關(guān)鍵部分，但編寫(xiě)測(cè)試程序卻感覺(jué)是在浪費(fèi)時(shí)間。好在嵌入式系統(tǒng)設(shè)計(jì)界內(nèi)的許多領(lǐng)域已經(jīng)將測(cè)試作為其工作的核心部分，他們認(rèn)識(shí)到將這個(gè)關(guān)鍵步驟放在項(xiàng)目末期極不明智，因而主張同步地編寫(xiě)測(cè)試程序和應(yīng)用程序。

嵌入式系統(tǒng)軟件測(cè)試在諸多方面都與應(yīng)用軟件測(cè)試一樣。不過(guò)，應(yīng)用測(cè)試與嵌入式系統(tǒng)測(cè)試之間還是存在一些重要差異。嵌入式開(kāi)發(fā)人員一般會(huì)用到基于硬件的測(cè)試工具，而這類(lèi)工具通常不會(huì)用于應(yīng)用開(kāi)發(fā)過(guò)程中。此外，嵌入式系統(tǒng)一般都有些獨(dú)一無(wú)二的特性，這些特性應(yīng)該在測(cè)試計(jì)劃中得以體現(xiàn)。本文將介紹測(cè)試和測(cè)試案例開(kāi)發(fā)的基礎(chǔ)知識(shí)，并指出整個(gè)嵌入式系統(tǒng)測(cè)試工作的特有細(xì)節(jié)。

何時(shí)測(cè)試以及如何測(cè)試

從圖1可以看出，在可行的條件下，測(cè)試應(yīng)盡早展開(kāi)。一般來(lái)講，最早的測(cè)試是由最初的開(kāi)發(fā)人員進(jìn)行的模塊或單元測(cè)試。遺憾的是，開(kāi)發(fā)人員大多對(duì)如何建構(gòu)一整套測(cè)試?yán)桃赃M(jìn)行測(cè)試所知不足。由于精心設(shè)計(jì)的測(cè)試?yán)掏ǔＶ钡郊蓽y(cè)試時(shí)才能使用，因此許多在單元測(cè)試過(guò)程中就能找出的缺陷直到集成測(cè)試時(shí)才會(huì)被發(fā)現(xiàn)。比如，硅谷的一家大型網(wǎng)絡(luò)設(shè)備廠商為找出其軟件集成問(wèn)題的關(guān)鍵原因，進(jìn)行了一項(xiàng)研究。這家廠商發(fā)現(xiàn)，在項(xiàng)目集成階段找出的缺陷中，有70%是由在集成之前從沒(méi)被執(zhí)行過(guò)的程序所產(chǎn)生的。

圖1：改正問(wèn)題的成本。

單元測(cè)試：開(kāi)發(fā)人員在單獨(dú)進(jìn)行模塊級(jí)測(cè)試時(shí)一般是編寫(xiě)存根代碼(stub code)取代余下的系統(tǒng)軟硬件。在開(kāi)發(fā)周期的這個(gè)環(huán)節(jié)，測(cè)試主要側(cè)重于代碼的邏輯性能。

通常，開(kāi)發(fā)人員會(huì)分別使用某些平均值、高值或低值、以及某些超出范圍的值(以測(cè)試代碼的異常處理功能)進(jìn)行測(cè)試。但這些基于“黑匣子”的測(cè)試僅能對(duì)模塊中整個(gè)代碼的一部分進(jìn)行測(cè)試。

回歸測(cè)試：測(cè)試不應(yīng)是一勞永逸的。每次修改程序后都應(yīng)該重新進(jìn)行測(cè)試，以確保這些更改不會(huì)無(wú)意中“誤傷”某些不相關(guān)的行為。

稱(chēng)為回歸測(cè)試的這類(lèi)測(cè)試，一般是通過(guò)測(cè)試腳本自動(dòng)進(jìn)行的。比如，如果你設(shè)計(jì)了一組100個(gè)輸入/輸出(I/O)測(cè)試，回歸測(cè)試腳本會(huì)自動(dòng)執(zhí)行這100個(gè)測(cè)試，然后將輸出與一組“黃金標(biāo)準(zhǔn)”輸出進(jìn)行對(duì)比。每次對(duì)代碼的任何部分進(jìn)行修改時(shí)，都要對(duì)包含被修改代碼的整個(gè)程序運(yùn)行整套回歸測(cè)試程序包，以確保修改過(guò)程中不會(huì)“誤傷”其余代碼。

測(cè)試什么

因?yàn)闆](méi)有一個(gè)實(shí)際的測(cè)試集可以證明一個(gè)程序是正確的，因此關(guān)鍵問(wèn)題變成了哪個(gè)測(cè)試子集最有可能檢測(cè)到最多的錯(cuò)誤。選擇合適的測(cè)試?yán)痰膯?wèn)題被稱(chēng)為測(cè)試?yán)淘O(shè)計(jì)。雖然存在數(shù)十種測(cè)試案例的設(shè)計(jì)方法，但它們通常可歸為兩種截然不同的方法：功能測(cè)試和覆蓋測(cè)試。

功能測(cè)試(也稱(chēng)為黑匣子測(cè)試)選擇可評(píng)估實(shí)現(xiàn)與需求規(guī)格符合程度的測(cè)試。覆蓋測(cè)試(也稱(chēng)為白匣子測(cè)試)選擇可執(zhí)行代碼某些部分的測(cè)試?yán)獭?過(guò)后，將詳細(xì)討論這兩種方法。)

這兩種測(cè)試都是對(duì)嵌入式設(shè)計(jì)進(jìn)行嚴(yán)格測(cè)試所必需的。其中，覆蓋測(cè)試表示代碼的穩(wěn)定性，所以這種測(cè)試是用于已經(jīng)完成或?qū)⒔瓿傻漠a(chǎn)品的。另一方面，可在編寫(xiě)要求文檔時(shí)，同時(shí)編寫(xiě)功能測(cè)試。

事實(shí)上，從功能測(cè)試開(kāi)始入手，可以最大限度地降低重復(fù)勞動(dòng)和重寫(xiě)測(cè)試案例的工作。因此，在我看來(lái)，要先考慮功能測(cè)試。

每個(gè)人都同意先編寫(xiě)功能測(cè)試這個(gè)觀點(diǎn)，有人認(rèn)為，功能測(cè)試在系統(tǒng)集成階段(而不是在單元測(cè)試時(shí))最有用。以下是整合功能測(cè)試和覆蓋測(cè)試方法的一個(gè)簡(jiǎn)單處理流程：

1.找出哪些功能未被功能測(cè)試完全覆蓋。

2.找出每個(gè)功能的哪些部分沒(méi)被執(zhí)行。

3.找出需要哪些額外的覆蓋測(cè)試。

4.運(yùn)行新增的額外測(cè)試。

5.重復(fù)以上步驟。

何時(shí)停止測(cè)試?

最通用的停止標(biāo)準(zhǔn)(按可靠性排序)如下：

1.老板命令停止測(cè)試

2.新的測(cè)試周期找到的新缺陷少于X個(gè)

3.在沒(méi)有發(fā)現(xiàn)任何新缺陷的情況下已經(jīng)滿(mǎn)足了某個(gè)覆蓋閥限

無(wú)論你多么徹底地測(cè)試了程序，都無(wú)法保證找出所有缺陷。這引發(fā)了另一個(gè)有趣的問(wèn)題：你可容忍多少缺陷?假設(shè)在極端軟件壓力測(cè)試過(guò)程中，你發(fā)現(xiàn)系統(tǒng)每進(jìn)行大約20小時(shí)的測(cè)試就會(huì)鎖定。你仔細(xì)地檢查程序，但是仍無(wú)法找出這個(gè)錯(cuò)誤的根源。這個(gè)時(shí)候你應(yīng)該交付產(chǎn)品嗎?

多少測(cè)試才“足夠好”?這個(gè)我說(shuō)不好。但遵循一些久經(jīng)時(shí)間考驗(yàn)的規(guī)則總是好的：“如果方法Z預(yù)估Y行代碼中的缺陷少于X個(gè)，那么就可放心地發(fā)布程序了。”也許有一天會(huì)出現(xiàn)這種標(biāo)準(zhǔn)。編程行業(yè)仍然相對(duì)年輕，還達(dá)不到類(lèi)似建筑業(yè)那樣的成熟度。

許多厚厚的建筑手冊(cè)和大本規(guī)范是多年經(jīng)驗(yàn)的結(jié)晶，它們可為建筑師、土木工程師和結(jié)構(gòu)工程師提供按工期在預(yù)算內(nèi)、建造一棟安全建筑所需的全部信息。偶爾雖仍會(huì)有建筑倒塌，但畢竟很少見(jiàn)。在編程行業(yè)制定出類(lèi)似標(biāo)準(zhǔn)前，“多少測(cè)試才足夠?”就是個(gè)主觀判斷問(wèn)題。

選擇測(cè)試案例

在理想情況下，你可能想要測(cè)試程序中每一個(gè)可能的行為。這意味著每一種可能的輸入組合或者每一種可能的判定路徑至少測(cè)試一次。

這是個(gè)崇高但完全不切實(shí)際的目標(biāo)。比如，Glen Ford Myers在其《軟件測(cè)試的藝術(shù)》一書(shū)中就描述了一個(gè)只用五個(gè)判定條件就可有1014個(gè)不同執(zhí)行路徑的小程序。他指出，如果你能夠每五分鐘就能編寫(xiě)、執(zhí)行并驗(yàn)證一個(gè)測(cè)試?yán)痰脑?huà)，那么全面徹底地測(cè)試完這個(gè)小程序需要10億年時(shí)間。

顯然，理想的狀況是無(wú)法實(shí)現(xiàn)的，因此你必須采用接近這種理想狀況的標(biāo)準(zhǔn)。如你所見(jiàn)，功能測(cè)試與覆蓋測(cè)試相結(jié)合可以提供合理的次優(yōu)選擇方案?；痉椒ㄊ沁x擇最有可能發(fā)現(xiàn)錯(cuò)誤的測(cè)試(一部分功能測(cè)試，一部分覆蓋測(cè)試)。