#01. Chat GPT로 만들기 전에
아이디어 이전의 생각
✍️ 책임적 기술과 윤리적인 질문들.
30대중반부터 스타트업 IT에서 디자인,기획,PM을 하며
개인적으로 가장 많은 질문 중 하나는, 윤리적인 질문이었습니다.
사회적 윤리란 우리 삶에 있어서 지켜야 할 도덕적 규범처럼 구체적인 규칙와 약속 같은 것입니다.
개발과 기획, 디자인의 윤리 또한 많은 이들이 사용하기 때문에 각 업무에 따라 중시해야 할 사항을 숙지하고 개발을 해야합니다.
예를 들자면
사용자는 자신의 개인정보가 유출될 수 있다는 정보를 전혀 모르지만, 보통 그 앱을 신뢰하고 사용하게 되는데 이용약관과 개인정보처리방침 약관에는 개인정보에 대한 내용이 명시되어 있지만, 실제로
개발과정에서 개인정보에 대한 암호화나 보안정책을 간과되는 경우가 있습니다. 그러한 이유는 기술적 개발 일정과 실제적인 조직문화에 따른 영향이 크기 때문입니다.
디자인 윤리의 경우, 탈퇴버튼이나 해지를 하고 싶은 경우 사용자가 이 기능을 잘 사용하지 못하도록 숨겨놓거나 지속적으로 해지여부를 묻는 경우(Dark pattern)도 그렇습니다.
기획자의 딜레마
이처럼 시장논리에 우선시하는 경우, 이러한 기술과 디자인의 도덕적 규범은 책임을 간과하기 쉽고,
사전에 이에 대해 주장할 경우 때론 조롱당할 수도 있다는 기획자의 딜레마도 있습니다.
더 근본적인 문제는 이 질문을 조직 안에서 꺼내는 것 자체가 외로울 수 있다는 점입니다.
"그거 지금 중요해?"
"그건 나중에 해도 돼"
"그 정도는 다 그렇게 해"
이런 말들 앞에서, 윤리를 말하는 사람은 고리타분하거나, 속도에 민감하지 못한 사람이 되기 쉽습니다.
그럴수록 기획자는 딜레마에 빠집니다.
⏱속도의 심리적 덫 – 알고도 놓치는 것들
또 문제가 발생되고 있음에도 불구하고 조직은 속도와 개발완료에 초점을 두는 전체적인 분위기 때문에
우리가 의식적으로 문제를 알고 있어도 성과와 속도주의란 심리적 덫에 빠지게 되면
윤리적, 책임적 명시를 소홀히하게 됩니다.
그러나 윤리란 나중에 넣을 기능이 아니라, **처음부터 설계에 포함되어야 할 '관점'**입니다.
사용자와 제공자의 그 줄다리기
여기서 더 깊게 보자면 사용자와 제공자의 관계를 생각해야 합니다.
우선 사용자에게 긍정적 경험가치를 제공하는가? 라는 대전제로 부터 시작된 질문이었습니다.
그리고 추후에 생겨나는 정서적, 정신적 가치도 고려할 수 있는가? 였습니다. 물물거래의 일회적인 거래성이 아닌 이는 보이지 않는 손처럼 지속적으로 거래를 하며, 신뢰를 쌓아가는 과정이기 때문입니다.
예를 들자면
서비스를 제공하는 자는 정보를 받는 이에게, 어떠한 영향이 있을지에 대해 알리거나
출처를 통해 사용자가 이해대해 알 수 있도록 합당하게 알려야 합니다.
이는 사회적 약속에 대한 의무이기도 하며 책임에 대한 소재를 지는 것 입니다.
그러나 일반적으로 사용자나, 제공자의 경우 손실을 처음부터 생각하지 않기 때문에
즉각적이고 흥미로운 것에 더 선택적 행동을 하게 됩니다.
행동경제학에서 손실을 회피하기 위한 "손실회피성향"과 즉각적 보상을 얻기 위한 "현재편향"을 둘수있습다. (행동경제학에 관련된 책 -생각에 관한 생각-에 자세한 사례를 읽어볼 수 있습니다)
〈생각에 관한 생각〉 대니얼 카너먼헬스케어와 같은 건강에 관련된 도메인일 경우 의료민감정보가 많기 때문에 앱심사가 까다로운 애플의 경우 이에 타당하지 않으면 앱심사에 누락되거나 합니다. (구글플레이는 관대한 편이라고 해야할지 모르겠지만�)
✅ 결국, 서비스 제공자는 사용자의 최소한의 정보 수집조건을 지키는 것이 좋습니다
웹기획을 한다면 또 어떠한 것을 고려 해야할까?
첫째로 사용자에게 책임적 명시가 필요로 한 기능과 중요사항이 있는지 판단해야 합니다.
둘째로 사용자의 성별,연령,문화,종교적인 환경,신체적인 조건도 고려해야 합니다.
셋째로 제공자가 우선이라는 절대적 원칙보다는 상호적인 원칙을 고려해야 합니다. (예: 사용자의 피드백을 반영하거나, 사용자 행동이 서비스 가치를 키우는 구조 (e.g. 넛지형 피드백 시스템))
따라서 기획자는 그 긴장을 부정하거나 억지로 조정하려 하기보다는,
드러내고 투명하게 연결하는 사람입니다.
왜 만들어야 하는가?
이 세상에는 정말 잘만들어진 웹과 앱이 있습니다.
기존에 잘 만들어진 웹과 앱들이 있는데 왜 수고롭게 만들까? 라는 또 질문을 하자면
창의적인 관점으로 내가 만든다는 것에 대한 애착과 또 ChatGPT를 통해 윤리적인 관점으로 만들어보고 싶다는 생각을 했습니다.
저는 브런치에 책방투어 글쓰기를 하며 자기완성과 성찰에 대한 주제를 많이 읽게되어
"만약 성찰을 위한 앱을 만든다면, 글쓰기와 일기쓰기, 묵상을 할 수있으며
개발에 대한 이해도 쌓으면서 만들어 보는 건 어떨까 싶었습니다."
개발과정
기획 – 성찰을 위한 기능 구조 그리기
개발환경 설정 – 개발 흐름 이해하고 준비하기
개발 – 실제로 기능 만들기
개발 디벨롭 – 구조 보완과 피드백 반영
사용자 리뷰 – 타인의 경험에서 배우기
배포 – 개인 사용자를 위한 작지만 단단한 공개
이 여정은 단순한 '앱 개발기'가 아닙니다.
기획자의 언어와 AI의 언어가 만나며 기술을 배우고,
그 기술로 다시 나를 바라보는 과정이기도 합니다.
앞으로 저의 기획 마인드와 ChatGPT의 도움을 바탕으로 이 앱을 하나하나 만들어가 보려 합니다.
많은 응원 부탁드립니다.
