How to tag your testcases?

在testcases越來越多後，你可能會遇到以下問題: 1. 跑完所有testcases要3hr，我想快速驗證，是否可以只跑重要的testcases就好? 2. 我不知道要怎樣管理testcases。 3. 每次寫完testcases要測試時，都至少要跑整個testsuite，是否能只跑某一個testcase呢? RobotFramework提供tag，讓你可以在testsuites/testcases上做標記，以達分類的用途。在執行時，也可以透過tag進行選擇。今天要告訴大家的，是tag的種類與如何使用。 Download Source Code

Tagging

robot在test suite中提供了Force Tags與Default Tags，而test case提供Tags。

  • Force Tag: suite下的testcases都會擁有這個tag。把它想成繼承就對了!
  • Default Tag: 若testcases沒有tag就會使用這個當做tag。已經在robotframework2.5廢掉。
  • Tags: testcase使用的tag。

下面的範例中，在testsuite畫面使用叫billboard的tag。

在testcase的畫面我們可以看到testsuite設定的tag與自己設定的tag。其中testsuite以紅色標記。

透過tag你可以去分類test suite/case，並根據需求去執行測試。接下來說明如何去執行你要的test。

Selecting

在執行robot的參數中，可以透過–include(-i)與–exclude(-e)去選擇要執行的tag。tagging的測試案例中，使用tag的情況如下:

  • Force Tags:
    • billboard: testBillboard
    • coutdown: testCountdown
    • invitefreinds: testInviteFriends
  • Tags:
    • basic: sortByJoinDate, sortByPercentage, sortByLeftDate, setConfigNormal, inviteFriends, inviteAllFriends
    • alternative: showNineorAll, setConfigAlternative, AppUserShouldNotExist

我用幾個範例讓大家了解該如何使用:

Example1: java -jar robotframework.jar -d report -i basic ./testTag

測試了所有標記為basic的testcase。

Example2: java -jar robotframework.jar -d report -i alternative ./testTag

測試了所有標記為alternative的testcase。

Example3: java -jar robotframework.jar -d report -i alternative -i countdown ./testTag

測試了所有標記為alternative與countdown的testcase，可以發現包含countdown與basic的testcases也在裡面；如果要省略basic必須多加-e basic參數。

Example4: java -jar robotframework.jar -d report -e alternative -e basic ./testTag
[ ERROR ] Suite 'testTag' with excludes 'basic' and 'alternative' contains no test cases.
在exclude後如果沒剩下任何testcaes，就會出現這樣的錯誤。

Summary

在我的範例中，是根據大項功能去分test suite的tag，接著根據一般與特殊情況，分出basic與alternative tag。如果想快速驗證，只要去執行修改功能的tag即可。在開發人員改完ㄧ個功能後，應自行執行功能測試案例，成功後再commit code；而daily build或release之前，再執行一次完整測試。如果testcases夠多，testcases的部分可能不會像我的範例只有basic與alternative的tag。

robot在選擇要執行testcase上，除了tag還提供透過指定test suite/case名稱的方式去過濾。有興趣可以參考Reource中的Selecting。

最後要提醒大家的是: 因為可以任意選擇要跑的testcases，但如果testcases之間有相依性，最後可是會很慘的喔!

Resource