隨著移動網際網路流量紅利、人口紅利的逐漸衰退,越來越多的產品運營開始關注資料驅動的精細化運營方法,期望透過精細化運營在一片紅海中繼續獲得確定的使用者增長,而A/B測試就是一種有效的精細化運營手段。簡單來說,A/B測試是一種用於提升App/H5/小程式產品轉化率、最佳化獲客成本的資料決策方法。在對產品進行A/B測試時,我們可以為同一個最佳化目標(例如最佳化購買轉化率)制定兩個方案(比如兩個頁面),讓一部分使用者使用A 方案,同時另一部分使用者使用 B 方案,統計並對比不同方案的轉化率、點選量、留存率等指標,以判斷不同方案的優劣並進行決策,從而提升轉化率。
隨著移動網際網路流量紅利、人口紅利的逐漸衰退,越來越多的產品運營開始關注資料驅動的精細化運營方法,期望透過精細化運營在一片紅海中繼續獲得確定的使用者增長,而A/B測試就是一種有效的精細化運營手段。簡單來說,A/B測試是一種用於提升App/H5/小程式產品轉化率、最佳化獲客成本的資料決策方法。在對產品進行A/B測試時,我們可以為同一個最佳化目標(例如最佳化購買轉化率)制定兩個方案(比如兩個頁面),讓一部分使用者使用A 方案,同時另一部分使用者使用 B 方案,統計並對比不同方案的轉化率、點選量、留存率等指標,以判斷不同方案的優劣並進行決策,從而提升轉化率。
A/B測試遭遇的多方面挑戰一個產品運營團隊,在實際推進A/B測試的時候,會遇到多方面的挑戰。我們發現這些挑戰可以總結成三個方面的問題:人、業務和工具。
人:任何一個組織,核心要素都是人。在這個要素中,最重要的就是讓整個團隊的成員統一思想,想明白諸如“什麼是A/B測試?”,“是否有必要在我們的產品運營中做A/B測試?”,“怎麼做A/B測試?”,“如何衡量A/B測試的價值和效果?”等等相關的問題。
業務:在一個具體的業務場景中,我們最關注的問題往往是如何將A/B測試在業務中的價值最大化。這個時候,產品運營比較關心的問題是“在已有的產品迭代流程中,如何低成本高效率地引入A/B測試?”,“如何在有限的資源投入情況下,最大化提高A/B測試的收益?”,“如何推進A/B測試在團隊中的應用?”,“A/B測試的最佳實踐是什麼?”工具:A/B測試的工具有兩種選擇:自建A/B測試工具,或者與專業的第三方A/B測試服務提供商合作。自建的A/B測試工具最大的好處是與企業業務關聯度高,這種方式比較適合有強大的資料分析技術研發實力的企業。而與TestinAB測試這樣的專業第三方服務企業合作,最大的好處是能高效率、低成本地開展A/B測試,把精力專注於自己的業務增長上。
A/B測試最佳實踐流程當一個團隊具備以上三個要素,開始真正推進A/B測試時,最佳的實踐流程是怎麼樣的呢?如果是初次接觸A/B測試的同學,可能會有一個誤解:“A/B測試的效果好壞非常依賴靈光一閃的好想法好創意,如果創意好,A/B測試的效果就好,如果創意不行,那麼A/B測試的效果就不行”。這種理解最大的問題就在於,忽略了A/B測試其實是有一套完整的方法論和實踐流程的。
確立最佳化目標。在圖5的A/B測試流程體系中,首先要做的,就是確立想要最佳化的“目標”。在這個過程中,我們建議大家一定要設立“可量化的、可以落實到某一個具體功能點的、可實施的小目標”。舉例來說,如果一個目標不好直接量化,例如“將使用者滿意度提升15%”,那麼就不好形成一個具體的A/B測試方案。同理,如果這個目標太大太寬泛,也不好落地。一個可行的目標可以是“透過最佳化註冊流程,將註冊轉化率提升20%”,這個目標可以量化,而且足夠具體,可以在後續流程中形成一系列相關的A/B測試實驗方案。
分析資料。透過資料分析,我們可以找到現有產品中可能存在的問題,只有先發現了某一個產品環節可能存在的問題,才好在後續流程中提出相應的最佳化方案,以最佳化這個環節的轉化率。 提出想法。在這一步,我們可以針對資料分析發現的問題,針對性的提出產品最佳化的方案,例如最佳化流程以提高轉化率,最佳化設計和文案等等。一般來說,A/B測試的想法會以“假設”的方式提出。例如,“假設把註冊流程中的圖片校驗碼方式,改成簡訊校驗碼的方式,我們的註冊轉化率可能提升10%”。基於這個假設,我們會設計對應的A/B測試,並透過實驗的資料驗證這個假設是否成立。在後面的章節我們也會透過更多實際的A/B測試案例來跟大家分享一些相關經驗。 重要性排序。在開發資源、版本排期、優先順序等因素的制約下,我們很可能不能對所有的想法進行實驗。在這一步,最重要的目的就是根據重要性、潛在收益、開發成本等因素對所有想法進行優先順序的排序,並選擇最重要的幾個想法進行A/B測試。實施A/B測試並分析實驗結果。對於一個A/B測試來說,結果主要分成兩種:有效和無效。無效的A/B測試實驗對於團隊來說,其實是非常寶貴的經驗,這個時候我們可以把這些無效的實驗轉化成團隊的經驗,避免以後再犯同樣的錯誤。而對於有效的A/B測試來說,我們成功透過實驗提升了產品的轉化率,這時我們可以把優勝的版本正式推送給全部使用者,以實現產品使用者的有效增長。迭代整個流程,進行下一輪A/B測試。在這個流程中,最重要的就是迭代、迭代再迭代。尤其是在剛開始推行A/B測試的時候,很容易遇到“團隊成員經驗尚淺,不確定哪些產品功能點做A/B測試效果會比較明顯”的問題,往往需要一些quick wins去建立團隊對A/B測試的信心。這個時候,比較有效果的辦法有兩種:一種是針對一些轉化率相對較低、很有可能透過改版獲得提升的產品功能點,精心設計A/B測試實驗,一般都會有比較明顯的效果;另一種是快速地做一批簡單的A/B測試實驗(例如修改關鍵按鈕的文案,顏色,圖示等),只要其中有一部分實驗取得了成功,就能很好的在團隊內部推進A/B測試的實施。像Testin AB測試產品提供了業界首家針對App/H5的視覺化編輯功能,可以對按鈕、圖示等控制元件進行“所見即所得”的視覺化編輯,實現文案、圖示的實時修改,而且無需應用市場稽核,可以即時更新,非常適合快速地進行簡單的A/B測試實驗。