우리는 왜 지성을 인공지능에 맡기고 싶어 싶어할까?
AI로 보는 마음2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
AI로 보는 마음
2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
2-4. 우리는 왜 지성을 인공지능에 맡기고 싶어 할까?
― 절대적인 객관성에 대한 기대
매우 뛰어난 인공지능인 AGI를 이야기할 때,
우리는 단순한 계산 능력이 아닌 합리적인 판단 능력,
바로 지성을 바라는 경우가 많습니다.
지성이라는 것은 단순히 무언가를 아는 능력에 그치지 않고
이를 바탕으로 어떠한 기준을 세워 따르는 태도.
그리고 이러한 지성이라는 태도는 우리가 세계를 바라보는 시선,
세계관을 바탕으로 작동하게 마련입니다.
지성이 세계관 위에서 작동한다고 할때,
그 세계관이 무엇인지, 어떻게 정하는지를 생각할 필요가 있습니다.
문제는 그것이 생각보다 피로한 작업이라는 점입니다.
무엇이 이익인지,
무엇이 당연한지,
무엇이 옳은지,
무엇이 더 멋진 선택인지.
이 질문들은 단순히 정보를 모은다고 해결되지 않습니다.
계산처럼 항상 명확한 답이 나오는 것이 아니기 때문입니다.
특히 요즘처럼 다양성이 강조되어 선택의 가능성이
폭발하는 상황에서 답을 내기는 더욱 힘듭니다.
결국 선택해야 하고,
선택에는 책임이 따르기 마련입니다.
그래서 우리는 때때로 누군가가 대신 판단해 주기를 바랍니다.
그 ‘누군가’가
편견이 없고,
공정하며,
감정에 휘둘리지 않는 존재라면
더 좋겠다고 생각합니다.
여기에서 인공지능은 묘한 매력을 갖습니다.
인공지능은
피곤해하지 않습니다.
사적인 감정이 없습니다.
개인적 이해관계가 없습니다.
적어도 그렇게 보입니다.
그래서 우리는 인공지능의 판단을 객관적이라고 느끼기 쉽습니다.
그 결과 인공지능에게 판단을 외주화하고 싶다는 욕망을 가질 수 있죠.
애니메이션 [사이코패스]는
이렇게 '판단의 외주화'가 극에 달할 때
사람들이 어떻게 느끼는가를
잘 보여주는 작품입니다.
이 세계의 사람들은 인공지능이라고 알려진,
'시빌라 시스템'의 지시에 따라 살아가고 있습니다.
직장에서부터 결혼 상대, 아침밥이나 입을 옷에 이르기까지
시빌라의 추천에 따라서 행동하죠.
누가 위험한지 아닌지 역시.
예언에 따라서 미래에 범죄를 저지를 가능성이 있는 사람을
미리 체포하거나 처형하는 작품,
[마이너리티 리포트]를 극대화한 설정입니다.
이 작품에서 주인공이 결혼을 앞둔 친구를 만났을때,
주인공은 친구가 결혼 상대를 한 번도 만난 적이 없다는 말에 걱정하지만,
친구는 말합니다.
"난 행복할거야. 시빌라가 행복할거라고 해 주었으니까."
우리는 종종 ‘누가 골랐는가’에 따라
같은 선택을 다르게 평가합니다.
그 판단이 사람이 아니라
시스템에 의해 이루어졌다고 믿는 순간,
그 결정은 더 공정해 보입니다.
이 기대는 비이성적인 것이 아닙니다.
우리는 이미 의사, 판사, 심사위원 같은
전문가의 판단에 의존해 왔습니다.
또한 종교나 사상과 같은
보다 큰 기준에 따라 행동해 온 역사도 있습니다.
AGI는 그 연장선 위에 있습니다.
“나보다 더 많은 정보를 알고 있고, 더 공정하게 판단해 줄 존재.”
그 기대는 자연스러운 마음의 움직임입니다.
선택지는 점점 늘어나고,
정보는 넘쳐 나며,
모든 판단에는 비난과 책임이 따릅니다.
그 속에서 지성을 외주화하고 싶은 욕망은
도피라기보다는 안정에 대한 갈망에 가깝습니다.
그렇다면 이 욕망은
잘못된 것일까요?
그렇게 단정하기는 어렵습니다.
우리는 이미 내비게이션의 판단을 신뢰하고,
검색 알고리즘의 추천을 받아들이며,
자동 번역을 사용합니다.
문제는 의존 그 자체가 아니라,
그 판단의 기준이 무엇 위에 놓여 있는지 모른 채
안심해 버리는 순간일지도 모릅니다.
지성은 기준을 세우는 태도라고 말했습니다.
만약 그 기준이 우리의 손을 완전히 떠난다면,
우리는 무엇을 기준으로 그 판단을 받아들이게 될까요?
AGI를 향한 기대는 객관성에 대한 기대입니다.
그러나 완전히 객관적인 판단이란
과연 존재할 수 있을까요?
어떤 판단이든 그 안에는
어떤 세계관이 스며 있습니다.
그 세계관이 우리와 같은지, 혹은 다른지조차 우리는 모를 수 있습니다.
그래서 AGI 논쟁은
단순히 기술적 안정성의 문제가 아니라,
기준을 누구에게 맡길 것인가의 문제로 이어집니다.
그리고 그 질문은 다시 우리에게 돌아옵니다.
우리는 정말로 판단을 대신해 줄 존재를 원하는가.
아니면 판단의 부담에서 잠시 벗어나고 싶은 것일까.
그런데 한가지 더 생각할 필요가 있습니다.
이 외주화는 실제로 가능한 걸까요?
그것은 정말로 믿을만할까요?
그리고 그 외주화에 한계는 없는 것일까요?
다음 이야기에서 이에 대해 생각해 보고자 합니다.
AI로 보는 마음 2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
2-1. AGI 논쟁은 왜 엇갈릴까 - 인공지능을 바라보는 우리의 기대와 두려움
2-2.우리는 정말로 '더 똑똑한 인공지능'을 바라는걸까 - 능력이 아닌 안심을 바라는 마음
2-3. 인공지능의 지성은 계산으로 설명될 수 있을까 - 계산으로 설명할 수 없는 마음의 근거
2-4. 우리는 왜 지성을 인공지능에 맡기고 싶어 할까? - 절대적인 객관성에 대한 기대
2-5. 추천 알고리즘은 왜 지성처럼 느껴질까 - 이유를 대신해주는 알고리즘의 유혹
2-6. 도덕적인 인공지능에게 우리는 안심할 수 있을까? - 신과 같은 인공지능을 마주한 인간의 불안
2-7. 위대한 인공지능 앞에서 우리는 멈추어 생각할 수 있을까? - 빠르고 궁극적인 답 앞에 흔들리는 마음
2-8. 인공지능 시대, 우리의 질문은 계속될까? - 답을 넘어 질문으로 향하는 인간의 욕망
[ 판단을 맡기는 순간, 책임도 함께 사라진다. 애니메이션 '사이코패스'는 그 편안함을 극단까지 밀어붙입니다. ] (PSYCHO PASS, Production I.G.)