1. 程式人生 > >移動App專項測試

移動App專項測試

phi 服務 www 結構 攻擊 行為 待機 mat 頻率

移動App測試實戰—專項測試

轉自:http://www.51testing.com/html/58/n-3713758.html

  我們在進行了手工的功能測試之後,也開發了一些自動化測試用例,並且做了性能測試之後,測試工作看似比較完整了。但是當我們的App在大量的用戶那裏被安裝和使用的時候,還是會有很多我們之前沒有預料的問題被反饋回來,比如:   · Crash的問題   · 設備兼容性的問題   · 流量使用過多的問題   · App導致用戶手機電量消耗過快的問題   · 在不同的網絡情況下不穩定,比如卡死和白屏的問題   這些問題都是上面的測試方法難以找出的,所以這裏引入了一個專項的測試方法,包括:兼容性測試、流量測試、電量測試、弱網絡測試、穩定性測試、安全測試
和環境相關測試。   第一:兼容性測試   針對App通常會考慮這些方面:   1)操作系統版本   包括Andoird版本,iOS版本   2)屏幕分辨率   3)不同廠家的ROM   4) 網絡類型   比如Wifi、3G、4G下的功能情況   第二:流量測試   在移動產品的測試中,很有必要對App使用的流量進行度量,大致來說,流量可以從用戶使用的的相關性角度分為:一類是用戶的操作直接導致的流量消耗;另一類是後臺,即在用戶沒有直接使用情況下的流量消耗。   第三:電量測試   在木器電池技術沒有取得巨大突破前提下,這方面始終會存在一些瓶頸,如果一些App架構設計的不好,或者代碼偶缺陷,就可能導致電量消耗比較高,所以電量測試也是很重要的。   第四:弱網絡測試
  移動互聯網產品相比PC互聯網產品,有一個特點是前者使用的網絡比較多樣,除了Wif之外,很多時候是在移動網絡下使用的,移動網絡遇到的情況又比較復雜,比如地鐵、隧道、體育場等。所以網絡不穩定的情況是比較容易發生的,很多情況下App的一些問題是在復雜的網絡情況下才會暴露,與其讓用戶發現和投訴這些問題,不如我們在測試階段盡量模擬這樣的網絡情況,及早發現和修復這些問題。   第五:穩定性測試   在保證基本功能正確基礎之上,App的穩定性就顯得非常重要,如果一個App經常出現閃退或者卡死,那麽用戶體驗就會受到很大傷害,在有其他競爭產品的情況下很容易造成用戶的流失。   第六:安全測試   包括安裝包的安全測試(能否反編譯代碼、安裝包是否簽名等)、敏感信息測試、軟鍵盤劫持、賬戶安全、數據通信安全等。服務器端的SQL
註入測試、XSS跨站腳本攻擊等。   第七:環境相關的測試   在實際項目中,有一些缺陷我發現是和App所處的運行環境相關的,所以設計測試的時候,要多考慮這些場景,比如:   1)幹擾測試   收到電話、收到短信、收到通知欄消息、無電提示框彈出、第三方安全軟件告警彈出。   2)權限測試   一些用戶在實際使用App的時候回有意識阻止某些功能。例如有的用戶感覺讓某個App訪問電話本或者相冊可能泄漏隱私,就在手機中設置了禁止了該App訪問相冊的權限。   3)邊界測試   手機環境本身也有其邊界情況需要在測試中覆蓋。常見的場景有:   可用存儲空間過少、沒有SD卡/雙SD卡、飛行模式、系統時間有誤(晚於和早於標準時間)、第三方依賴(比如我們的App依賴第三方App,但是現在第三方App沒有安裝或者版本過低的測試情況)。 -------------------------------------------------華麗的分割線-----------------------------------------------------------------

Android APP性能及專項測試

  • Android性能測試分為兩類:
    1、一類為rom版本(系統)的性能測試
    2、一類為應用app的性能測試

  • Android的app性能測試包括的測試項比如:
    1、資源消耗
    2、內存泄露
    3、電量功耗
    4、耗時
    5、網絡流量消耗
    6、移動終端相關資源利用率
    7、幀率
    8、渲染等等....

  • 工具:
    (工具的原理都是基於調用android底層的一些api來獲取到測試所用到的值)GT等

  • 測試方法:
    1、設計場景 :手工或自動化場景
    2、獲取數據:可獲取的數據包括:內存、cpu、電量功耗、hprof(內存泄露分析文件)、響應時間等等。。。。配合手工或自動化場景來獲取數據(最好多取幾次而且每次配合不同的設備看平均值)作為最後的對比分析
    3、結果分析 :拿到數據後分析哪些模塊的數據異常再去Check code定位問題的原因

  • Android系統的幾種場景狀態:
    1、空閑狀態: 指打開應用後,點擊home鍵讓應用後臺運行,此時應用處於的狀態叫做空閑
    2、中等規格和滿規格狀態:中等規格和滿規格指的是對應用的操作時間的間隔長短不一,中等規格時間較長,滿規格時間較短

1.1 內存篇

背景知識:
C/C++申請的內存空間在native heap中,而java申請的內存空間則在dalvik heap中。這個是因為Android系統對dalvik的vmheapsize作了硬性限制,當java進程申請的java空間超過閾值時,就會拋出OOM異常(這個閾值可以是48M、24M、16M等,視機型而定),可以通過adb shell getprop | grep dalvik.vm.heapgrowthlimit查看此值。也就是說,程序發生OMM並不表示RAM不足,而是因為程序申請的java heap對象超過了dalvik vmheapgrowthlimit。也就是說,在RAM充足的情況下,也可能發生OOM。

這樣的設計似乎有些不合理,但是Google為什麽這樣做呢?這樣設計的目的是為了讓Android系統能同時讓比較多的進程常駐內存,這樣程序啟動時就不用每次都重新加載到內存,能夠給用戶更快的響應。迫使每個應用程序使用較小的內存,移動設備非常有限的RAM就能使比較多的app常駐其中。但是有一些大型應用程序是無法忍受vmheapgrowthlimit的限制的

實際上dalvik.vm.heapgrowthlimit和dalvik.vm.heapsize都是java虛擬機的最大內存限制,應用如果不想在dalvikheap達到heapgrowthlimit限制的時候出現OOM,需要在Manifest中的application標簽中聲明android:largeHeap=“true”,聲明後應用dalvik heap達到heapsize的時候才會出現OOM

  1. 內存測試中的測試子項:
    1)空閑狀態下的應用內存消耗情況
    2)中等規格狀態下的應用內存消耗情況
    3)滿規格狀態下的應用內存消耗情況
    4)應用內存峰值情況
    5)應用內存泄露情況
    6)應用是否常駐內存
    7)壓力測試後的內存使用情況

  2. 內存問題現象:
    1)內存抖動
    2)大內存對象被分配
    3)內存不斷增長
    4)頻繁GC

  3. 內存數據獲取:
    1、各種linux命令(top、free、meminfo…)
    2、通過dumpsys
    adb shell dumpsys meminfo [pakagename | pid]
    3、通過/system/xbin/procrank工具
    adb shell procrank
    說明:
    VSS – Virtual Set Size 虛擬耗用內存(包含共享庫占用的內存)
    RSS – Resident Set Size 實際使用物理內存(包含共享庫占用的內存)
    PSS – Proportional Set Size 實際使用的物理內存(比例分配共享庫占用的內存)
    USS – Unique Set Size 進程獨自占用的物理內存(不包含共享庫占用的內存) USS 是針對某個進程開始有可疑內存泄露的情況,是一個程序啟動了會產生的虛擬內存,一旦這個程序進程殺掉就會釋放。不過USS需要通過root的手機。一般沒有root的手機我們可以獲取PSS。而PSS通過如下命令來獲取:adb shell dumpsys meminfo <Package Name>|grep TOTAL
    4、通過android提供的procrank
    1)首先去google獲取procrank、procmem、libpagemap.so三個文件
    2)然後push文件,執行 adb push procrank /system/xbin adb push procmem
    /system/xbin adb push libpagemap.so /system/lib
    3)賦權 adb shell chmod 6755 /system/xbin/procrank adb shell chmod 6755 /system/xbin/procmem adb shell chmod 6755 /system/lib/libpagemap.so ,
    4)在開啟工具記錄 adb shell procrank |grep packagename >/address/procrank.txt
    5、通過android提供的ActivityManager的getMemoryInfo(ActivityManager.MemoryInfo outInfo)(這個方法是寫一個簡單的app去監控的時候用到的,輕便簡單)

  1. privatevoidGetMemory()
  2. {
  3. finalActivityManager activityManager =(ActivityManager) getSystemService(ACTIVITY_SERVICE);
  4. ActivityManager.MemoryInfo info =newActivityManager.MemoryInfo();
  5. activityManager.getMemoryInfo(info);
  6. Log.i(tag,"系統剩余內存:"+(info.availMem >>10)+"k");
  7. Log.i(tag,"系統是否處於低內存運行:"+info.lowMemory);
  8. Log.i(tag,"當系統剩余內存低於"+info.threshold+"時就看成低內存運行");
  9. }
6、Memory  Monitor (android studio的插件)  【makedown???】

4. /proc/meminfo文件裏列出的字段解釋:

MemTotal: 所有可用RAM大小。 MemFree: LowFree與HighFree的總和,被系統留著未使用的內存。
Buffers: 用來給文件做緩沖大小。 Cached: 被高速緩沖存儲器(cache memory)用的內存的大小(等於diskcache
minus SwapCache)。 SwapCached:被高速緩沖存儲器(cache
memory)用的交換空間的大小。已經被交換出來的內存,仍然被存放在swapfile中,用來在需要的時候很快的被替換而不需要再次打開I/O端口。
Active: 在活躍使用中的緩沖或高速緩沖存儲器頁面文件的大小,除非非常必要,否則不會被移作他用。 Inactive:
在不經常使用中的緩沖或高速緩沖存儲器頁面文件的大小,可能被用於其他途徑。 SwapTotal: 交換空間的總大小。 SwapFree:
未被使用交換空間的大小。 Dirty: 等待被寫回到磁盤的內存大小。 Writeback: 正在被寫回到磁盤的內存大小。
AnonPages:未映射頁的內存大小。 Mapped: 設備和文件等映射的大小。 Slab:
內核數據結構緩存的大小,可以減少申請和釋放內存帶來的消耗。 SReclaimable:可收回Slab的大小。
SUnreclaim:不可收回Slab的大小(SUnreclaim+SReclaimable=Slab)。
PageTables:管理內存分頁頁面的索引表的大小。 NFS_Unstable:不穩定頁表的大小。

5. android檢查內存泄露步驟:

1、運行Monkey進行壓力測試:
adb shell monkey -p cn.microinvestment.weitou --pct-touch 100 --ingore-crashes --throttle 1000 -s 100 -v -v 50
2、監控內存值,如果出現過大等遞增異常則保存HPROF文件(hprof文件是Java 虛擬機的Heap快照)用於分析查看應用內存的命令:
adb shell dumpsys meminfo cn.microinvestment.weitou(進程名)
如果發現內存過大,則保存HPROF文件:adb shell am dumpheap <進程名> <保存路徑>
3、分析hprof文件
用工具MAT來查看,首先還要這個HPROF文件轉換成MAT可讀的文件
在Android SDK tool裏面有個hprof-conv命令:
hprof-conv <原HPROF文件路徑> <轉換後的HPROF路徑>
hprof-conv a.hprof b.hprof
4、用MAT工具打開轉換後的HPROF文件
一般選擇Leak Suspects Report(通過SQL語句來查詢對象有沒有被釋放掉,如果有多個相同的對象,則會存在內存泄露的問題)

1.2 CPU篇

  1. CPU測試中的測試子項:
    1)空閑狀態下的應用CPU消耗情況
    2)中等規格狀態下的應用CPU消耗情況
    3)滿規格狀態下的應用CPU消耗情況
    4)應用CPU峰值情況

  2. CPU數據獲取:
    1)adb shell dumpsys cpuinfo | grep packagename
    2)top命令
    adb shell top -m 10 -s cpu #查看占用cpu最高的前10個程序(-t 顯示進程名稱,-s 按指定行排序,-n 在退出前刷新幾次,-d 刷新間隔,-m 顯示最大數量)
    adb shell top | grep PackageName > /address/cpu.txt

1.3 流量篇

  1. 概念:
    中等負荷:應用正常操作
    高負荷:應用極限操作

  2. 流量測試中的測試子項:
    1、應用首次啟動流量值
    2、應用後臺連續運行 2 小時的流量值
    3、應用高負荷運行的流量峰值
    4、應用中等負荷運行時的流量均值

  3. 獲取流量數據:
    1、tcpdump+wireshark
    2、/proc/net/目錄下相關文件
    cat /proc/net/dev 獲取系統的流量信息
    3、查詢應用的pid: adb shell ps | grep tataufo #如:31002
    通過PID獲取該應用的流量數據: adb shell cat /proc/31002/net/dev
    (wlan0代表wifi上傳下載量標識, 單位是字節可以/1024換算成KB, 打開手機飛行模式再關掉就可以將wlan0中的值初始化0)
    4、查詢應用的pid: adb shell ps | grep tataufo #如:31002
    通過PID獲取UID:adb shell cat /proc//status
    通過UID獲取:adb shell cat /proc/net/xt_qtaguid/stats | grep 31002
    5、通過adb shell dumpsys package來獲取應用的uid信息,然後在未操作應用之前,通過查看 :
    adb shell cat /proc/uid_stat/uid/tcp_rcv
    adb shell cat /proc/uid_stat/uid/tcp_snd
    獲取到應用的起始的接收及發送的流量,然後我們再操作應用,再次通過上述2條命令可以獲取到應用的結束的接收及發送的流量,通過相減及得到應用的整體流量消耗
    6、Android代碼:Android的TrafficStats類

1.4 功耗篇

  1. 功耗測試中的測試子項:
    1、手機安裝目標APK前後待機功耗無明顯差異
    2、常見使用場景中能夠正常進入待機,待機電流在正常範圍內
    3、長時間連續使用應用無異常耗電現象

  2. 功耗測試方法:
    方法一:軟件
    1、采用市場上提供的第三方工具,如金山電池管家之類的。
    2、就是自寫工具進行,這裏一般會使用3種方法:
    1)基於android提供的PowerManager.WakeLock來進行
    2)比較復雜一點,功耗的計算=CPU消耗+Wake lock消耗+數據傳輸消耗+GPS消耗+Wi-Fi連接消耗
    3)通過 adb shell dumpsys battery來獲取
    3、battery-historian(google開源工具)
    方法二:硬件
    一般使用萬用表或者功耗儀安捷倫進行測試,使用功耗儀測試的時候,需要制作假電池來進行的,有些不能拔插電池的手機還需要焊接才能進行功耗測試

1.5 GPU篇(FPS)

  1. 概念:
    過度繪制: 界面顯示的activity套接了多層而導致
    幀率:屏幕滑動幀速率
    幀方差: 屏幕滑動平滑度
    **FPS:**Frames Per Second 每秒顯示的幀數 根據人眼的生理結構,幀率高於24時就被認為是連貫的。對於遊戲畫面30fps是最低能接受的,60fps逼真感,如果幀率高於屏幕刷新頻率就是浪費。要達到30fps,每幀所占用的時間要小於33毫秒

  2. GPU測試中的測試子項:
    1、界面過度繪制
    2、屏幕滑動幀速率
    3、屏幕滑動平滑度

  3. 過度繪制測試:(人工進行測試)
    打開開發者選項中的顯示GPU過度繪制(Debug GPU overdraw)
    驗收的標準:
    1、不允許出現黑色像素
    2、不允許存在4x過度繪制
    3、不允許存在面積超過屏幕1/4區域的3x過度繪制(淡紅色區域)

  4. 屏幕滑動幀速率測試:
    方法一:
    1.手機端打開開發者選項中的啟用跟蹤後勾選Graphics和View
    2.啟動SDK工具Systrace,勾選被測應用,點擊Systrace,在彈出的對話框中設置持續抓取時間,在trace taps下面勾選gfx及view選項
    3.手工滑動界面可以通過節拍來進行滑動或者掃動,幀率數據會保存到默認路徑下,默認名稱為trace.html
    4.將trace.html文件拷貝到linux系統下通過命令進行轉換,生成trace.csv文件
    grep ‘postFramebuffer‘ trace.html | sed -e ‘s/.]\W//g‘ -e ‘s/:.*$//g‘ -e ‘s/.//g‘ > trace.csv
    5.用excel打開文件計算得到幀率
    方法二:
    硬件的方法,打開高速相機,開啟攝像模式,錄制手工滑動或者掃動被測應用的視頻,再通過人工或者程序數幀的方法對結果進行計算得到幀率

  5. 屏幕滑動平滑度的測試:
    方法如同幀率測試,唯一的差異就是最後的結果計算公式的差異

  6. 捕獲app幀率(android流暢度FPS測試):
    1、打開手機開發者選項,勾選GPU顯示配置文件(系統會記錄保留每個界面最後128幀圖像繪制的相關時間信息)
    2、adb shell dumpsys gfxinfo com.xxx.xxx > zinfo.txt
    3、結果數據分析
    Profile data in ms部分:
    Draw: 創建顯示列表的時間(DisplayList),所有View對象OnDraw方法占用的時間
    Process: Android 2D渲染引擎執行顯示列表所花的時間,View越多時間越長
    Execute:將一幀圖像交給合成器(compsitor)的時間,較小

  7. 其他工具:
    GameBench 測試android app的FPS工具
    Gfxinfo 查看app繪制性能工具

1.6 響應時間篇

  1. 理解:
    1)從單擊事件觸發到容器啟動NativeAPP消耗的時間(埋點)
    2)NativeAPP完整啟動消耗的時間(可以通過system.log獲取)
    3)Native調用RPC請求方法的延遲時間(埋點)
    4)RPC請求發出去過程中的具體數據(req_size req_header req_time等,通過埋點獲取)
    5)RPC請求返回的具體數據(res_size res_header res_time等,通過埋點獲取)
    6)本地解析返回數據所消耗的時間(埋點或者TraceView工具可獲取)
    7)界面渲染的時間(可以通過慢速攝像機或者埋點獲取)

  2. android app啟動時間測試
    (安卓Activity啟動過程性能剖視: http://www.rudy-yuan.net/archives/59/)

  3. 應用的啟動時間的測試,分為三類:
    1)首次啟動 --應用首次啟動所花費的時間
    2)非首次啟動 --應用非首次啟動所花費的時間
    3)應用界面切換--應用界面內切換所花費的時間

  4. 應用啟動時間數據獲取:
    1、adb logcat > /address/logcat.txt #所有activity打印的日誌
    find “Displayed” /address/logcat.txt > /newaddress/fl.txt #通過日誌過濾關鍵字Displayed來過濾
    find “ActivityName” /newaddress/fl.txt > /newaddress/last.txt #通過activity名來過濾獲取所測應用
    通過計算activity最後剩余的時間之和即可
    2、硬件測試, 使用高速相機或者手機采用錄像的方法把應用啟動過程給錄制下來,然後通過人工數幀或者程序數幀的方式計算啟動時間

2 弱網測試

  1. 測試方法:
    1、使用真實的SIM卡、運營商網絡來進行測試(移動無線測試中存在一些特別的BUG必須在特定的真實的運營商網絡下才會發現)
    2、通過代理的方式模擬弱網環境進行測試(charles 硬延遲)
    3、連接模擬弱網的熱點進行測試

  2. 熱點模擬方法:
    1)通過設置iPhone的開發者模式之後共享熱點(硬延遲)
    2)FaceBook開源的ATC(可使用樹莓派來搭建ACT環境)

  3. 用戶體驗需要做的:
    1)在應用中統一弱網加載的界面樣式、動畫效果、菊花icon等
    2)統一網絡錯誤、服務端錯誤、超時等展現給用戶的界面和提示語句
    3)定義清楚在每個中間過程是的用戶交互行為

  4. 轉自:https://www.zybuluo.com/defias/note/592309

移動App專項測試