인공지능의 지성은 계산으로 설명될 수 있을까?
AI로 보는 마음2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
AI로 보는 마음
2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
2-3. 인공지능의 지성은 계산으로 설명될 수 있을까?
― 우리에게 가장 가치있는 마음의 근거
앞에서 우리는 지능과 지성을 나누어 보았습니다.
지능은 문제를 해결하는 능력이고,
지성은 무엇이 문제인지 정하는 태도라고 말했습니다.
그렇다면 여기에서 한 걸음 더 나아가 보겠습니다.
지성은 어디에서 기준을 가져올까요?
어떤 목표가 옳은지,
어떤 방향이 바람직한지,
어떤 선택이 더 나은지 판단하려면
그 판단의 바탕이 되는 무언가가 필요합니다.
그 바탕을 우리는 보통 세계관이라고 부릅니다.
창작물에서 말하는 세계의 설정이 아니라,
세계를 어떻게 바라보는가 하는 관점으로서의 세계관.
흔히, '유물론적 세계관'이나 '신학적 세계관' 같은 식으로
말하는 세계관은 거창한 철학 체계 같은 것만을 말하지 않습니다.
오히려 훨씬 일상적인 것입니다.
무엇이 이익인가.
무엇이 당연한가.
무엇이 옳은가.
무엇이 멋진가.
이 네 가지 질문에 대한 우리의 감각이 모여
하나의 방향성을 형성합니다.
예를 들어 보겠습니다.
어떤 사람에게는
경제적 효율이 가장 중요한 기준일 수 있습니다.
어떤 사람에게는
공정함이 더 중요할 수 있습니다.
어떤 사람에게는
자유가,
또 어떤 사람에게는
안정이 더 우선일 수 있습니다.
그리고 어떤 사람은
단지 뭔가 의미있어보이는 말을 하려고
모든 걸 포기할 수도 있습니다.
재미있는 것은, 이러한 세계관이
모든 사람에게 같을 수 없다는 것입니다.
어떤 사람에게는 이익이 되는게
어떤 사람에게는 손해로 비칠지 모릅니다.
어떤 사람에겐 당연한게
어떤 사람에는 이상하게 비칠 수도 있습니다.
어떤 사람에겐 옳은게
어떤 사람에게는 잘못된 것일지도 모릅니다.
'멋지다.'라는 기준에 이르면,
아예 통일된 기준 자체를 말할 수 없습니다.
때문에 세계관의 문제는 단순한 정보나
계산의 차이가 아닙니다.
누군가의 세계관에는 나름대로 이유가 있습니다.
하지만, 그 출발점을 논리로 증명하기는 어려운 일입니다.
우리는 무엇을 멋지다고 느끼는지는
계산으로 완전히 설명하지 못합니다.
하지만 그 감각은 단순한 변덕이 아니라,
우리가 중요하게 여기는 가치와 연결되어 있습니다.
취향은 우연처럼 보이지만,
그 사람의 세계관을 드러내는 하나의 표현일지도 모릅니다.
가령, 저는 한 여름에도 긴 셔츠에 조끼를 입고, 리본 넥타이에,
모자를 쓰고 모자에는 고글을 걸치고 다닙니다.
스팀펑크 스타일을 좋아하고
제게 가치가 있다고 생각하기 때문이죠.
그런 제 마음을 논리적으로 설명하라고 한다면 어떨까요?
지성이라는 것은 이처럼 계산으로는
환원하기 어려운 세계관에 바탕을 두고 있습니다.
그리고 그 세계관은
사람마다 서로 다릅니다.
지성이 각기 다른 세계관 위에서 작동한다면,
하나의 기준으로 완전히 통일된 지성을 세우는 일은
결코 단순하지 않습니다.
누군가의 세계관은 그에게 있어
쉽게 포기할 수 없는 가치이기 때문입니다.
그래서 서로 다른 세계관이 충돌하면
갈등은 피하기 어렵습니다.
이러한 갈등은 AGI 논쟁에서도 빠질 수가 없습니다.
AGI가 완성된다면
그 AGI는 어떤 기준 위에서 판단할까요?
효율을 최우선으로 둘까요.
안전을 최우선으로 둘까요.
자유를 더 중요하게 여길까요.
평등을 더 중시할까요.
지성은 능력이 아니라 태도라고 했습니다.
그리고 그 태도는
항상 어떤 세계관 위에서 작동합니다.
AGI 논쟁이 복잡해지는 이유는
기술이 아직 부족하기 때문만은 아닙니다.
우리가 무엇을 옳다고 여길지에 대한 기준이
하나로 정리되어 있지 않기 때문입니다.
그리고 설령 어떤 기준에 합의한다 해도
그 기준이 언제나 같을 것이라고 장담할 수는 없습니다.
그 문제는 계산 능력의 부족이 아니라
세계관의 차이에서 비롯되기 때문입니다.
그 결과, 누군가는 AGI를
완벽하게 공정한 존재로 상상합니다.
누군가는
윤리적으로 흔들리지 않는 존재로 상상합니다.
또 누군가는
냉정하게 효율적인 존재로 기대합니다.
이 서로 다른 기대는
기술적 차이가 아니라
세계관의 차이에서 비롯됩니다.
그래서 AGI 논쟁은
“언제 가능해지는가”의 문제가 아니라
“어떤 방향을 택할 것인가”의 문제로 확장됩니다.
어쩌면 우리는
지성을 대신해 줄 존재를 상상하면서도
그 지성의 기준만큼은
스스로 정하고 싶어 하는지도 모릅니다.
세계관은 외부에서 주어지는 것이 아니라
멈추어 생각하는 순간에,
이제까지의 나를 돌아보는
과정에서 구축되어 갑니다.
내가 무엇을 중요하게 여기는지,
무엇을 포기할 수 없는지,
어떤 세계를 더 바람직하다고 느끼는지.
그 질문을 피하지 않을 때
지성은 작동합니다.
AGI 논쟁은
우리에게 하나의 불편한 질문을 던집니다.
“당신은 어떤 세계를 원하는가?”
이 질문에 답하지 않은 채
완벽한 지성을 상상하는 일은
어쩌면 불가능한 일인지도 모릅니다.
그럼에도 불구하고
우리는 왜 지성을 외주화하고 싶어하는 걸까요?
그 욕망의 자연스러운 이유를
조금 더 들여다보려 합니다.
AI로 보는 마음 2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
2-1. AGI 논쟁은 왜 엇갈릴까 - 인공지능을 바라보는 우리의 기대와 두려움
2-2.우리는 정말로 '더 똑똑한 인공지능'을 바라는걸까 - 능력이 아닌 안심을 바라는 마음
2-3. 인공지능의 지성은 계산으로 설명될 수 있을까 - 계산으로 설명할 수 없는 마음의 근거
2-4. 우리는 왜 지성을 인공지능에 맡기고 싶어 할까? - 절대적인 객관성에 대한 기대
2-5. 추천 알고리즘은 왜 지성처럼 느껴질까 - 이유를 대신해주는 알고리즘의 유혹
2-6. 도덕적인 인공지능에게 우리는 안심할 수 있을까? - 신과 같은 인공지능을 마주한 인간의 불안
2-7. 위대한 인공지능 앞에서 우리는 멈추어 생각할 수 있을까? - 빠르고 궁극적인 답 앞에 흔들리는 마음
2-8. 인공지능 시대, 우리의 질문은 계속될까? - 답을 넘어 질문으로 향하는 인간의 욕망
[ 인간을 보호하기 위해 인간을 통제해야 한다고 판단한 초인공지능 VIKI. 이 선택은 과연 인간이 옳다고 여기는 기준과 일치할까요? ] ( 아이, 로봇. 20 Century Fox)