데이터 활용과 견제를 위한 태도. 다른 PM의 경험담으로부터 배워요
PM 업무를 하며 가장 큰 고충이 느껴질 때에는 결정을 내리는 것 자체보다도 어떤 기준/관점에서 결정해야 할지를 모르겠을 때인 것 같습니다. 이런 불확실함에 대응하기 위해 숫자를 참고하기도 하고, 히스토리를 참고하기도 하고, 때로는 제품 이해도에 기반한 직관을 따르기도 하는데요. 이 중 개인의 주관으로부터 가장 자유로우리라 기대되는 숫자, 그러니까 데이터가 오히려 가장 교묘하게 주관에 편승할 수 있는 방법일지도 모르겠다는 생각이 들었습니다. 숫자가 주는 묘한 안정감 때문인지 유독 숫자에 대해서만 관대해지는 순간, 가끔 있었거든요.
데이터를 제 개인의 주관에 의존해서 사용하지 않도록 견제하고 싶다는 게 첫 니즈였기 때문에, 다른 PM들이 어떻게 데이터를 활용하는지 궁금했습니다. 도메인/제품의 특성에 따라, 팀의 성장 단계에 따라 데이터를 활용하는 방법은 다를 수 밖에 없으니 다양한 경험담을 들어보는 게 도움이 되겠다 싶었습니다. 그래서 열심히 구글링을 하며 블로그도, 아티클도 읽어보았고 아래 링크를 발견하게 되었습니다.
읽다보니 재미있어서 위 자료가 활용되는 강의도 둘러보게 되었는데요. 이 강의는 하드 스킬이 아니라 소프트 스킬을 다루는 강의이다, 라고 명확하게 짚어준 OT 영상을 보고- 제가 듣고 싶은 경험담이 있겠다 싶어 수강을 결심하게 되었습니다.
마침 팀 내에서 업무 관련 자기계발비가 지원되어 수강료 부담 없이 신청할 수 있었습니다. (야호) 비슷한 시기의 각자의 성장 고민에 참고하고자 점심시간에 인터넷 강의를 수강하는 사내 스터디가 꾸려져서 다같이 으샤으샤 하며 강의를 수강할 수 있었던 것도 아주 큰 도움이 되었습니다.
제품 내 습관 형성에 필요한 3요소라든지, 지표 설계할 때 알아야 할 stock과 flow의 차이라든지- 새로운 개념을 배울 수 있어서 재미있는 것도 많았지만 해당 내용들은 위에 첨부한 강의자료에 잘 정리되어 있으니 저는 가장 인상 깊었던 것들을 추상화해 기록해보려고 합니다.
(1) 데이터 기반 의사결정에 대한 겸손한 태도
"데이터 기반 결정은 local optima이지, global optimum이 아니다"라는 말이 기억에 남습니다. 데이터 자체가 정답을 알려주는 것은 아니라는 말은 여러 번 듣고 여러 번 실감했지만, 막상 데이터에 의존해 무언가를 결정하고 싶을 때 떠올리기는 쉽지 않은 말인 것 같습니다. 현재 확보할 수 있는 데이터를 '참고'해 결정할 뿐이라는 사실을 상기시킬 수 있었습니다. 더불어 "직관도 어떤 의미에서는 업계에 대한 도메인 지식일 수 있다"라는 말도 함께 엮어 기억하고 싶었는데요. 인풋 퀄리티 측면에서 데이터 > 직관 이라고 생각하는 경우가 다수입니다. 개인적으로는- 설득 비용을 낮춰 빠른 의사결정/실험에 도움이 된다는 관점에서 데이터가 직관보다 더 좋은 자료일 가능성이 높다고 생각합니다. 하지만 언제나 그렇지는 않을 수도 있다는 것. 직관에 대한 존중 을 생각해보게 되는 챕터여서 저에게 의미있게 기록해두고 싶습니다.
(2) 데이터 기반 의사결정을 문화로 만들기
팀 내에서 구성원 간의 데이터 추출/분석에 대한 접근성 정도는 서로 다를 수 밖에 없습니다. 이럴 때 데이터 기반 의사결정이 '문화'가 되지 않으면, 데이터를 뽑는 사람 따로- 참고하는 사람 따로- 있다보니 데이터 활용에 대한 전파도, 견제도 어려워집니다. 예를 들어, 수집하는 데이터의 정합성을 맞추기 위한 (관련된 비즈니스 성과가 단기에 나타나지는 않는) DB 구조 개선 작업의 필요성이 큰 공감을 얻지 못할 수 있고 / 데이터 추출 담당자 개인의 주관에 의존한 쿼리 결과에 지나친 신뢰가 부여될 수도 있습니다. 그래서 모두가 데이터 기반 의사결정 문화에서 각자의 역할을 담당해야 합니다. 누군가는 분석자로, 누군가는 문화의 후원자로, 누군가는 관찰자로요. 데이터 기반 의사결정의 성공/실패 사례를 팀 내에 꾸준히 전파하는 것 / 많은 구성원이 데이터 기반 결정에 involved 되어 있는 경험을 누적할 수 있도록 서포트하는 것이 중요하겠다는 생각이 드는 대목이었습니다.
(3) 결국 문제정의 역량
수강 중 [지표 정의]와 관련된 실습 문제를 풀었던 것도 기억에 남습니다. 커뮤니티에서 다른 수강생들은 어떤 방식으로 답변했는지 볼 수 있는데요. 동일한 연습 문제에서도, 어떤 문제를 가장 중요하게 생각했느냐에 따라 답변이 다른- 당연한 현상을 목격하니 새삼 재미있었습니다. 그리고 배달 서비스와 관련된 연습 문제를 풀 때- 일전에 배달 서비스를 만드는 팀에서 일했던 경험을 떠올리며 데이터 너머의 실무 현장 (ex. 점주 - 라이더 - 고객 수 밸런스, 배달 품질에 영향 주는 우천/배달수단/지역/시간 등의 변수) 을 고려해 지표를 설계했는데요. 도메인에 대해 얼마나 알고 있는가가 데이터를 얼마나 다양하게 핸들링할 수 있는가에 큰 영향을 준다는 것을 실감할 수 있었습니다. 결국은 도메인에 대한 지식을 바탕으로 다양한 문제를 발굴하고 그 중 어떤 문제가 가장 중요한지 생각하는 것이 선행되어야- 서비스 내에 흐르는 수많은 숫자 중 어떤 숫자를 결정에 참고할 것인지 판단할 수 있음을 느꼈습니다.
진도율 일정 기준 이상인 경우, 강사님과의 1:1 멘토링 세션 신청이 가능했습니다. 사실 저는 아직 간접 경험보다는 직접 경험이 더 중요하겠다는 생각 때문인지- 선배와의 네트워킹 / 멘토링 세션에 필요를 자주 느끼는 편은 아닌데요. 강의를 수강했던 이유 자체가 '경험담'이 궁금했던 것이었기 때문에 이번에는 1:1 멘토링을 신청해서 자유로운 분위기에서 강사님과 대화를 나눴습니다. 강의에서도 그러하셨듯, '이렇게/저렇게 하세요'와 같은 방법론이 아니라 직접 경험하셨던 이야기를 담백하게 나눠주셔서 공감되는 부분이 많은, 알찬 시간으로 잘 활용할 수 있었습니다.
그리고 배운 점을 팀에 공유했습니다. PM팀 뿐만 아니라 콘텐츠 기획팀, 디자인팀 등 다양한 직군의 동료들이 참고해주셔서 매우 즐겁고 가뿐한 마음으로 수강 후기 / 배운 점 기록 노트를 공유할 수 있었습니다. ('데이터 기반 의사결정'을 문화로 만들어야 하고 그 과정에서 각 구성원이 각자의 역할을 실감할 수 있도록 해야 한다-라는 러닝을 바로 적용해보려는 의도도 조금 있었습니다. 허허)
배운 것을 제 방식으로 소화해서 활용해야 의미가 있을테니, 이번에 기록해둔 것들을 종종 꺼내보며 업무에 참고해봐야겠습니다. 총총.
Appendix
강의에서 배운 것을 기록하고, 강의자료 일부를 인용했기 때문에 강의 링크를 남겨놓습니다.