디자인 윤리를 실무에서 검증할 수 있을까?
Judgement Call로 알아보는 가능성
Q. 실무 디자인 프로세스에서 디자인 윤리를 검증할 수 있을까요?
위 물음은 제가 디자인 윤리 커뮤니티를 운영하며 가장 많이 받는 질문이에요. 돌이켜 보면 저는 항상 이 질문에 대답을 머뭇거리거나 회피하곤 했어요. 사례가 아주 없는 것은 아니지만, 표본으로 삼을만한 사례를 찾기가 쉽지는 않았기 때문이에요. 구글의 전 디자인 윤리학자인 트리스탄 해리스가 이끄는 [Center for Humane Technology]에서 제공하는 몇 가지 원칙이 있긴 하지만, 실무에 적용시키기는 다소 추상적인 느낌이 있어요. 여기서는 중립적이지 않은 기술과 인간 뇌가 가진 취약성, 제품을 만드는 문화를 바꾸자는 것과 인도적 차원의 기술에 관해 이야기하고 있어요. 이는 오히려 디지털 시대를 살아가는 사람들이 가져야 할 기본적인 소양이 아닐까 해요. 아래 링크에서 확인 가능해요.
https://www.humanetech.com/technologists#principles
현실적으로 디자인 윤리 검증에 대한 필요를 조직 내에 설득시키기 위해서는 아래 두 가지중 하나는 통과가 되어야 해요. 이는 생존이 걸려있는 조직이라면 더 어려운 선택이 될 거예요.
1) 디자인 윤리에 대한 검증이 회사 매출에 영향을 끼치지 않을 것이다.(사실 보장할 수 없죠.)
2) 만약 매출에 영향을 끼친다 하더라도 '서비스 신뢰'나 '제작자가 가지는 책임감'처럼 수치화할 수 없는 보상이 생길 것이다.
만약 어떤 서비스가 UI에 과도한 넛지를 적용해 매출을 내고 있어도 법적으로는 문제가 없을 거예요. 이는 착한 사람도 충분히 빠질 수 있는 윤리적 딜레마라고 생각해요. 이러한 물음에 Microsoft의 파트너 이사인 미라 레인(Mira Lane)은 자신의 블로그에 다음과 같이 의미심장한 말을 남겼어요.
윤리는 혁신의 재료일 수 있다. 생각의 다양성은 제품 팀이 다른 차원으로 도약하는데 매우 중요하다.
저는 미라 레인의 글을 읽고 이내 다음과 같은 물음이 들었어요. "네? 혁신이라고요? 윤리가 진짜 혁신을 만들어낼 수 있어요?"
Judgement Call 게임과 윤리적 검증
미라 레인은 자신의 블로그에 Microsoft 내에서 AI 기술을 개발하며 얻은 학습을 기반으로 한 'Responsible Innovation Practices Toolkit'을 공개했어요. 툴 킷에는 몇 가지 방법론이 포함되어있지만, 저는 'Judgement Call'이라는 게임에서 실무 시 윤리적 검증에 대한 가능성을 보았어요.
참고로 Judgement Call은 2/13일 클럽하우스에서 열린 디자인 윤리 커뮤니티 '인간을 위한 디자인' 첫 미팅에서 AIDD멤버인 DS님도 소개해주셨어요.(AIDD는 'AI for Designers and Developer의 약자로 디자이너와 개발자가 모여 전반적인 AI 기반 서비스 및 제품에 대해 논의하는 커뮤니티입니다.) 아래는 지난주 클럽하우스에서 열린 첫 미팅의 세부 사항이 쓰인 노션 링크예요.
https://www.notion.so/1-feat-c5d7d330451f45b28d84055572cf9bf3
Judgement Call이란?
지금부터 Judgement Call에 대해 한 번 알아볼게요. Judgement Call은 Microsoft가 제공하는 윤리 원칙을 실행하는 팀 기반 활동이에요. 표면적으로는 카드가 존재하는 'TRPG 게임' 형식을 띠고 있어요. 테이블탑 롤플레잉 게임이라고도 하는데 보드게임처럼 오프라인상에서 사람들이 테이블에 모여 앉아, 대화를 통해 진행하고 또 각자가 분담된 역할을 연기하는(Role Playing) 형식이에요. Microsoft는 친절하게도 Judgement Call을 프린팅 할 수 있는 PDF도 제공하고 있어요. 아래에 파일 첨부할게요. 혼자 하면 매우 쓸쓸하니 가능하면 누군가와 꼭 함께 하세요!
오랜만에 가위질이라는 걸 해보았어요.게임에는 1~10명의 플레이어가 참여할 수 있고, 시간은 60~90분 정도로 제한해요. Judgement Call의 최종 목표는 '이해 관계자의 관점'에서 제품 리뷰를 작성하는 데 있어요. 그리고 우리가 서비스하는 기술이 가진 잠재적인 사회적 영향과 숨겨진 피해 가능성에 대해 논의하고 해결책까지 모색하는 데 있어요. 미라 레인은 이 게임을 통해 기술을 만드는 사람들이 윤리적 상상력을 발휘하는 방법을 연습하는데 많은 도움을 얻을 수 있다고 해요. 이를 피해 모델링 즉, '실제 윤리적 영향력을 상상하는 연습'이라고 표현하기도 해요. 아래는 이해를 돕기 위한 유튜브 영상이에요.
https://www.youtube.com/watch?v=LXqlAXEMGI0&feature=emb_logo
게임의 룰
1) 우선 진행자를 선정해요. 진행자는 늘 그렇듯 그룹 토론을 진행하고 의견들을 취합하는 일을 해요.
2) 제품의 시나리오를 만들어요. 가상 제품도 가능하다고 하네요. 이 단계에서 다음과 같은 측면이 고려되어야 해요.
누가 제품을 사용하나요?
제품에는 어떤 기능이 포함되나요?
언제 사용되나요?
제품은 주로 어디에서 사용되나요?
실제로 유용한가요?
제품을 어떻게 사용할 거예요?
3) 이제 이해당사자를 확인해야 해요. 이는 우리가 만든 제품이나 서비스에 영향받는 사람들을 말해요. 화이트보드에 가장 영향받을 수 있는 이해관계자 리스트를 작성해요. 목록이 완성되면 상위 10위를 결정해 이해당사자 카드에 적용해요. 그리고 이를 섞어요. 이해관계자 리스트는 아래와 같이 나올 수 있어요.
장애우
교수
소수민족
가정폭력 피해자
노인
이동 근무자
멸종위기종
어린이
빈곤층 가정
4) Microsoft가 정의한 윤리 원칙이 쓰인 카드에는 다음과 같은 가치들이 포함돼요. 이를 이해당사자 카드와 비교해 작성해요.
공정성(Fairness)
개인 정보 보호 및 보안(Privacy & Security)
신뢰성 및 안전(Reliability)
투명성(Transparency)
포용성(Inclusion)
책임성(Accountability)
Microsoft 사의 6가지 윤리적 원칙(그저 갓!)5) 마지막 등급 카드로 윤리에 대한 점수를 매겨요. 별 1개는 나쁨, 별 3개는 보통, 별 5개는 좋음을 뜻해요. 아래는 예시로 작성해본 리뷰예요. 저는 긱 이코노미 서비스와 노동자 사이의 공정성에 대해 생각해봤어요.
6) 이후 플레이어에게 각 카드를 제공하고 10분에 걸쳐 리뷰를 작성하게 돼요. 좋은 리뷰를 쓸 수 있는 팁도 제공되는데 다음과 같아요.
최대한 내가 아닌 이해 관계자의 입장에서 바라보기
기능에 대해 최대한 구체적으로 설명하기
많은 고민 하지 않고 직관적으로 표현하기
7) 게임에 참여한 플레이어들과 토론할 시간이에요. 진행자를 중심으로 잠재적인 문제들을 밝히고 탐색하는 과정을 거치는데, Judgement Call에서는 아래 네 가지 사항을 중심으로 보라고 조언해요.
어떤 이해관계자에게 가장 큰 타격이 있을까요?
어떤 기능이 문제인가요?
잠재적인 문제가 무엇일까요?
반복되는 문제가 있었나요?
8) 토론에서 눈에 띄는 이해관계자와 특징 그리고 위험성을 이해해요. 그리고 이러한 문제를 방지하기 위해 기술 및 사회적 차원의 해결책에 대해 논의하는 시간을 가져요.
9) Judgement Call
여기까지 다양한 관점으로 숨은 윤리적 위험성을 살펴보았어요. 이제는 판단을 내릴 시간이에요. 우리가 한 발 더 나은 제품을 만들기 위한 해결책은 무엇일까요?
커뮤니티 배심원(Community Jury)
앞서 말한 'Responsible Innovation Practices Toolkit'에는 Judgement Call 외에도 '커뮤니티 배심원'에 대한 가이드라인도 소개가 되어있어요. 커뮤니티 배심원이 필요한 이유를 아래 문장으로 대신하며 글을 마칠까 해요. 긴 글 읽어주셔서 감사드려요.
자동차 안전 설계자나 엔지니어가 아무리 뛰어나더라도 30명의 아이들 안전을 책임지는 스쿨버스 운전사의 윤리적 무게를 결코 느끼지 못할 겁니다.
디자인 윤리를 실무에서 검증할 수 있을까? (끝)
[참고 사이트]
https://www.facebook.com/groups/designforthesuperrealworld
[AIDD 페이스북 커뮤니티 링크]
https://www.facebook.com/AIDD-Shaping-AI-for-the-better-future-104260974825453
