편향에서 벗어나려면
Debiasing
편견이나 편향의 위험을 예방할 수 있는 방법은 없을까요? 몇 가지 요령은 있습니다. 한번 알아볼까요?
1. 메타인지 (Meta Cognition)
메타(Meta)라는 뜻은 밖에 있는(beyond), 그러나 나와 함께 있는(with)'이란 뜻입니다. 메타인지란 나의 밖에 있는 객관적인 내가, 나를 바라보며 무엇을 생각하고 있는지를 생각하는 것입니다. 예를 들어, "내가 알고 있는 지식이 이 정도구나..", "나의 기억이 정확하지 않구나..", "내가 요즈음 스트레스를 많이 받아서 예민해졌구나.." 하는 등의 자기 인식 (self-monitoring)하는 과정을 의미합니다.
메타인지능력이 뛰어난 사람은 자기 성찰을 잘합니다. 자연스레 자신의 오류를 객관적으로 바라볼 수 있겠죠. 메타인지 능력을 키우는 방법은 메타인지를 많이 해보는 겁니다. 늘 자신을 바라보며 스스로 모니터링하는 습관이 필요합니다.
내가 나를 바라보는 메타인지https://www.eduinnews.co.kr/news/articleView.html?idxno=6405
2. 복잡한 정보 쪼개어 분석하기
대부분의 판단오류는 주어진 정보의 양이 너무 많아, 꼼꼼히 살펴보지 못할 때 자주 발생합니다. 즉각적인 판단이 어려울 정도의 많고 복잡한 정보라면, 시간을 두고 하나씩 분석하는 수밖에 없습니다. 시간이 없다고 직관에 의지하면 판단 오류에 빠질 수 있습니다. 시스템의 오류를 잡아내기 위해 사용하는 fault tree analysis가 좋은 예입니다. 복잡한 문제를 OX 문제로 단순화시켜서 하나씩 풀어나가면 판단 오류를 최소화하고 합리적인 결론에 도달할 수 있습니다.
단계적으로 문제점을 찾아낼 수 있도록 논리적으로 구성된 트리모양의 그림https://edrawmax.wondershare.com/tree-diagram/what-is-fault-tree-analysis.html
3. 인지 훈련
우리의 뇌가 특정한 편향에 빠지지 않도록 훈련하는 방법들이 있습니다.
다양성 훈련 (Diversity training): 고정관념은 한 가지 관점에 반복적으로 노출되는 경우 생겨납니다. 결국 편향된 경험의 결과입니다. 그래서, 경험의 내용을 바꾸는 것이 중요합니다. 고정관념으로는 이해가 안 되는 예외적인 사례, 소수의 사례를 다양하게 학습하면, 고정관념의 틀에서 점진적으로 벗어날 수 있습니다.
인지 대체 훈련 (Considering alternatives): "내가 하는 게 진짜 맞나?", "반대 증거는 뭐가 있을까?", "이 업무를 평가하기 위해 다른 정보가 더 필요한가?" 등으로 자신의 판단과는 다른 대체 정보 또는 반대 정보를 찾아보고 상상도 해 봅니다. 일정 수준의 메타인지 능력이 필요합니다.
천천히 생각하기 (Slow thinking): 빠르고, 자동적이고, 직관적이고, 무의식적인 판단 (system 1 thinking)에서 천천히, 논리적으로, 분석적이고, 의식적인 노력 (system 2 thinking)으로 인지 패턴을 바꾸려고 노력해 봅니다.
이제까지는 빨리 결정하지 않으면 손해 보는 일이 많았습니다. 그러나 지금의 불확실성 시대에는 속도보다 방향이 중요합니다. 편견으로 인해 잘못된 방향으로 달리고 있다면 낭패입니다.
system 1에서 system 2 방식으로 생각 전환https://thedecisionlab.com/reference-guide/philosophy/system-1-and-system-2-thinking
4. 시각화(visualization)로 인지오류 줄이기
UI 디자이너가 ppt를 만들 때 참고할 수 있는 내용입니다. 글자나 그림으로 정보전달하는 과정에서 다음과 같은 시각화 원칙을 잘 지키는 것이 중요합니다.
그래픽 종류의 적절성: 정보의 내용(contents)과 구조(architecture)가 잘 어울려야 합니다. 예를 들어, 크기 비교는 막대그래프, 변화 추이는 꺾은선그래프를 쓰는 것을 말합니다. 표나 그래프의 위치도 스토리텔링의 범위 안에 있어야 합니다. 단순한 나열은 안됩니다.
가인성(legibility) 확보: 폰트, 여백, 색 대비 등을 고려하여 표와 그래프의 가인성 (legibility)과 가독성(readability)을 확보해야 합니다. 눈에 잘 띄고, 자세히 읽을 수 있도록 명료해야 합니다. 용어에 대한 설명은 17화 '잘 보인다는 것은'의 내용을 참고해 주세요.
택스트의 위치: 그래프의 내용과 텍스트를 연결하는데 근접 상호 연관성 원리를 (proximity compatibility principle) 지켜야 합니다. 가까이 있을수록 내용상 연결되어 있다고 인식하는 현상을 의미합니다. A사의 수출입 그래프를 그렸으면 A사라는 label은 그래프 바로 옆에 붙어 있어야 합니다. 그래프의 밖에 있는 legend box에 넣을 필요가 없습니다. Excel에서 자동으로 그래프를 만들 때 생기는 문제점입니다.
다양한 그래프를 활용하되 UI 디자인의 원칙을 따라 시각화함https://prezentium.com/types-of-graphs/
지금 우리는 정보 과잉시대에 살고 있습니다. 내가 찾은 정보가 사실인지 아닌지도 알 수 없습니다. 심지어 Chatgpt나 Gemini도 엉뚱한 질문을 하면 존재하지 않는 정보 (hallucination)를 만들어 냅니다. 편향된 질문을 해도 사용자가 좋아할 만한 답을 내줍니다. 확증편향의 보조도구로 사용하기 딱 좋습니다.
스스로 질문해 봅니다.
"나는 지금 편향적인 정보에 노출되어 있는 것은 아닐까?"
"설마 거짓 정보를 잘못 사용한 건 아니겠지?"
"아니야, 내가 거짓말과 진실을 구별 못하고 있는지 몰라."
"AI도 나에게 편향된 정보를 줄 때가 있잖아!"
이런 환경에서 UX디자이너가 어떤 일을 할 수 있을까요? 어떻게 정보 편향성을 최소화할 수 있을까요?
AI의 편향성은 어떻게 분별할 수 있을까요?
지식을 넘어서는 지혜가 필요한 시기입니다.
