A/B Test 설계해보기
이전 글에서 CTA가 무엇인지, 도그메이트의 랜딩페이지에 어떤 CTA 요소들이 있는지 알아보았습니다. 그럼 이번엔 분석한 내용을 토대로서 만약 내가 이 페이지를 개선한다면 어떤 방법이 있을지 알아보겠습니다.
도그메이트 랜딩페이지에서 개선하고 싶었던 포인트가 하나 있었는데요, 바로 '고양이 펫시터'에 대한 내용입니다. 도그메이트는 이름부터 강아지 펫 시팅 서비스라는 느낌이 강합니다. 이전부터 관심이 있었지만 저도 강아지 외 고양이 펫 시팅 서비스가 있었는지는 이번 분석을 통해 알게 되었어요. 이 고양이 펫 시팅 서비스의 존재를 더 알릴 수 있지 않을까요? 또한 일곱 번째 블록에서 고양이 펫시터에 대한 정보를 더 보고 싶어서 '자세히 보기'버튼을 눌렀을 때 연결되는 페이지가 강아지 펫 시팅에 대한 설명으로 이루어져 있어 혼란스러웠어요. 고양이 펫 시팅에 대한 내용을 어디에서 볼 수 있는지 더 찾아보게 됐는데 다른 정보를 더 찾을 수 없었거든요.
A/B test란 정의된 지표와 관련하여 여러 가지 버전의 기능이나 페이지를 평가하는 실험입니다. A/B test의 A/B는 'As is to Be'의 약자로 '현재의 상황'과 변화해야 할 '미래의 지향점'을 의미합니다.
조금 더 자세히 설명하면 A/B test는 두 개의 변형 A와 B를 사용하는 '종합 대조 실험'으로, 대상이 변수 A에 비해 변수 B에 대해 보이는 응답을 비교 테스트하고 두 변수 중 어떤 것이 더 효과적인지 판단함으로써 단일 변수에 대한 두 가지 버전을 비교하는 방법입니다.
A/B test에서는 몇 가지 유의해야 할 점이 있습니다.
1. 가설이 없는 A/B test는 인사이트를 얻을 수 없다.
A/B test를 통해 일단은 수치를 개선했더라도 정확한 인사이트를 얻기 위해서는 가설 설정이 중요합니다. 가설이 없다면 일시적인 수치만 달라질 뿐 결과를 통해 그다음 행동을 위한 인사이트를 얻을 수 없는 것이죠.
2. 통제변수는 하나만 두어야 한다.
통제변수가 두 가지 이상일 경우 어떠한 차이를 발생시키더라도 많은 변수 중 어떤 변수가 이런 결과를 가져왔는지 알 수 없습니다.
3. 시간 흐름에 따른 차이도 고려해야 한다.
A와 B를 test 하는 시점이 너무 차이가 난다면 데이터에는 유의미한 결과가 있다고 하더라도, 시간 흐름 자체가 변수로 작용할 수 있습니다. 테스트는 가능하면 동시에 진행되어야 합니다.
이 유의사항을 지키면서 개선하고 싶은 부분에 대해 도그메이트 랜딩페이지에 대한 가상의 A/B Test를 설계해 볼게요.
1. 가설 세우기
랜딩페이지의 이미지가 대부분 강아지 이미지로 되어있고 내용도 강아지 펫 시팅에 대한 내용으로 이루어져 있어서 고양이 펫 시팅이 필요한 사람들이 고양이 펫 시팅 서비스의 존재를 알지 못할 것 같이서 다음과 같은 가설을 세워보았습니다.
가설 : "고양이 펫 시팅에 대한 내용을 랜딩페이지 상단에 추가하면 반려묘의 펫 시팅이 필요한 유저의 유입이 늘어날 것"
2. 변수 설정
변수는 단일 변수여야 합니다. 위 가설을 증명하기 위해 하단 블록과는 상관없이 랜딩 페이지의 상단의 작은 블록을 만들어 고양이 펫 시팅에 대한 내용을 추가해보려고 합니다. A는 현재의 버전, B는 블록을 추가해 고양이 펫 시팅의 정보를 개재한 버전입니다.
(이미지는 제가 참고할 수 있도록 임의로 만들었습니다. 도그메이트와는 무관합니다.)
3. 스케줄링
기간 : 1주 (6/28~7/5)
대상 : 랜딩페이지에 접속한 고객
테스트 방식 : 랜딩페이지의 접속한 고객에게 랜덤으로 A 혹은 B의 페이지를 보여줌
지표 : 랜딩페이지의 접속한 후 CTA를 통해 앱 설치 받은 유저의 비율
테스트 이후에는 전환율이 더 높은 버전을 유지하게 되겠습니다. 이 테스트를 통해 실제로 B 페이지가 더 유입률이 높을 경우에는 고양이 펫 시팅에 대한 니즈가 있음을 확인했다는 의미도 있을 듯합니다. 그렇게 되면 실제 유입된 유저 중에 고양이를 키우는 고객은 얼마나 되는지도 확인해보아야 할 거예요. 이렇게 A/B test를 통해 검증을 해나가면서 랜딩페이지를 개선할 수 있고, 결과를 통해 얻은 인사이트로 서비스 개선으로 이어질 것입니다.