우리는 정말로 '더 똑똑한 인공지능'을 바라는걸까?
AI로 보는 마음2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
AI로 보는 마음
2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
2-2. 우리는 정말로 '더 똑똑한 인공지능'을 바라는걸까?
― 능력이 아닌 안심을 바라는 마음
AGI를 이야기할 때 우리는 흔히 이렇게 말합니다.
“인간보다 똑똑한 존재.”
여기서 말하는 ‘똑똑함’은 무엇일까요.
계산이 빠른 것.
기억력이 뛰어난 것.
수많은 데이터를 바탕으로 정답에 가까운 답을 찾아내는 것.
이런 능력들은 분명 지능의 영역입니다.
지능이란, 정해진 규칙 안에서 최적의 답을 찾아내는 능력.
지금의 인공지능은 이 영역에서 이미 인간을 상당 부분 넘어섰습니다.
바둑, 번역, 단백질 구조 예측, 대규모 데이터 분석까지.
특정 문제 해결 능력에 있어서는 인간보다 더 빠르고, 더 정확합니다.
그런데 AGI 논쟁은 여기에서 멈추지 않습니다.
우리가 정말로 기대하는 것은
더 빠른 계산일까요?
아니면
더 확실한 판단일까요?
이 차이는 작아 보이지만, 실은 결정적입니다.
예를 들어봅시다.
어떤 정책이 경제적 효율을 극대화한다고 가정해 보겠습니다.
계산 능력은 그 정책을 가장 효과적으로 실행하는 방법을 찾아낼 것입니다.
그러나 판단은 이렇게 묻습니다.
“그 정책이 정말로 우리가 원하는 방향인가?”
“효율이 전부인가?”
“이러한 정책이 정말로 옳은 것일까?"
여기에는 단순한 계산 이상의 것이 필요합니다.
이익과 손해를 계산하고, 처리하는 것만이 아니라,
이것을 어떻게 생각하는가라는 방향성이 필요합니다.
알고 있는 것을 계산하는 것에 그치지 않고,
알고 있는 여러가지를 바탕으로 나온
기준에 맞추어 일관적으로 나아가는 태도.
일반적으로 그것을 지성이라고 부릅니다.
AGI 논쟁에서 우리가 상상하는 ‘인간을 넘어서는 존재’는
단순히 문제를 더 잘 푸는 기계라기보다는
흔들리지 않는 기준을 가진 존재,
바로 지성을 지닌 존재에 가깝습니다.
어떤 상황에서도 분명한 방향을 제시해 주는 존재.
망설임 없이 선택해 주는 존재.
나보다 더 나은 결정을 내려 줄 것 같은 존재.
그 기대는 단순한 능력의 차원이 아니라
태도의 차원에 가깝습니다.
그렇다면 질문은 조금 달라집니다.
우리는 정말로 더 높은 지능을 원하는 것일까요?
아니면 더 안정적인 지성을 원하는 것일까요?
그리고 그 지성을
왜 우리 대신 발휘해 줄 존재에게서 찾으려 하는 것일까요?
지능은 발전할수록 우리를 놀라게 합니다.
그러나 지성은 발전할수록 우리를 불편하게 합니다.
왜냐하면 지성은
결국 우리 자신의 기준을 묻기 때문입니다.
AGI 논쟁은
겉으로는 성능 경쟁처럼 보입니다.
그러나 그 속에서는
우리가 무엇을 옳다고 여기고,
무엇을 당연하게 여기며,
어떤 세계를 멋지다고 느끼는지에 대한 질문이
조용히 움직이고 있습니다.
다음 화에서는
이 ‘지성의 기준’이 어디에서 오는지,
그리고 왜 그것이 단순한 능력으로 환원될 수 없는지를
조금 더 깊이 살펴보려 합니다.
AGI를 이해하려면
먼저 우리가 무엇을 지성이라 부르는지부터
생각해 보아야 하기 때문입니다.
AI로 보는 마음 2. AGI 논쟁 : 나 대신 지성을 바라는 욕망
2-1. AGI 논쟁은 왜 엇갈릴까 - 인공지능을 바라보는 우리의 기대와 두려움
2-2. 우리는 정말로 '더 똑똑한 인공지능'을 바라는걸까 - 능력이 아닌 안심을 바라는 마음
2-3. 인공지능의 지성은 계산으로 설명될 수 있을까 - 계산으로 설명할 수 없는 마음의 근거
2-4. 우리는 왜 지성을 인공지능에 맡기고 싶어 할까? - 절대적인 객관성에 대한 기대
2-5. 추천 알고리즘은 왜 지성처럼 느껴질까 - 이유를 대신해주는 알고리즘의 유혹
2-6. 도덕적인 인공지능에게 우리는 안심할 수 있을까? - 신과 같은 인공지능을 마주한 인간의 불안
2-7. 위대한 인공지능 앞에서 우리는 멈추어 생각할 수 있을까? - 빠르고 궁극적인 답 앞에 흔들리는 마음
2-8. 인공지능 시대, 우리의 질문은 계속될까? - 답을 넘어 질문으로 향하는 인간의 욕망
[ 압도적인 지능을 지닌 데이터. 하지만, 그의 진정한 매력은 정답을 제시하는 능력이 아니라, 인간의 판단을 배우려는 자세에서 나옵니다. ] ( StarTrek Next Generation, Paramount )