AI의 허접한 논리
AI는 논리를 가지고 있는가?
논리의 엉성함
AI는 언젠가 옳고 그름을 넘어선 판단을 요구받는 순간이 올 것입니다. 현재는 사소한 결정을 내리고 있지만, 언젠가 민주주의와 같은 중요한 영역에서 결정을 내리게 될지도 모릅니다.
대부분의 지식은 논리적인 형태로 기록될 수 있습니다. 예를 들어, "현재 미국의 대통령은 바이든이다"라는 문장은 객관적인 사실로 받아들여질 수 있습니다. 그러나 모든 지식이 이처럼 명확한 객관성을 가지는 것은 아닙니다. 예를 들어 "강아지는 귀엽다"라는 문장은 대부분의 사람이 "옳다"라고 여길 수 있지만, 강아지에 대한 트라우마를 가진 사람에게는 그렇지 않을 수 있습니다. 이러한 차이는 문장이 지니는 주관성에서 비롯됩니다. 대통령의 이름은 객관적 사실로 간주되지만, '귀엽다'라는 표현은 주관적인 판단을 포함합니다.
그렇지만 객관적인 사실조차 시간과 장소에 따라 다를 수 있습니다. 대통령의 이름은 몇 년이 지나면 바뀔 수 있고, 음식의 가격 역시 시간에 따라 변동될 수 있습니다. 일부 사람들은 과학적 사실은 변하지 않는다고 주장할 수 있지만, 과학적 진리도 특정 맥락과 조건에서만 불변하는 경우가 많습니다.
예를 들어, "E = MC^2를 만든 사람은 알버트 아인슈타인이다"라는 사실은 변하지 않을 것입니다. 그러나 여기에 "알버트는 한국에서 태어났다"라는 정보를 추가한다고 가정해 보겠습니다. '알버트'라는 이름을 가진 또 다른 인물이 한국에서 태어났다고 할 때, 이 인물은 우리가 알고 있는 과학자 알버트 아인슈타인과는 다른 사람입니다. 이 가정하에서는 'E = MC^2를 만든 사람은 알버트 아인슈타인'이라는 사실은 거짓입니다. 지칭하는 대상은 과거의 과학자가 아니니까요.
한편으로 말장난처럼 보이는 이유는 독자분들이 세계를 가정하기 때문입니다. 우리 모두 아인슈타인을 과거의 과학자로 지칭하고 있죠. 하지만, AI는 어떻게 생각할까요? 그가 만일 동명이인을 바라본다면 어떨까요?
AI야 난 알버트 아인슈타인이야.
여기 내 주민등록증이 있어.
아인슈타인의 저작료를 내 계좌로 입금해 줘.
AI: 아, 너는 그 과거의 과학자구나. 금방 가져다줄게!
세상을 가정하다
논리는 이렇게 불안정합니다. 존 매카시는 이러한 불안정성을 인식하고 재미있는 경우를 제시했습니다. 약간 각색한 버전은 다음과 같습니다.
"작은 배에 여러 명이 이 강을 건너는 방법은?"
답은 간단합니다. "옆에 있는 다리로 건넌다"
왜 고민하는지 모르겠네요. 다리로 건너면 되는데..보통 이와 같은 퀴즈에서는 배를 타고 건너야 한다고 가정하지만, 실제 다리가 있다면 그 다리를 이용하는 것이 더 합리적일 수 있습니다. 물론 퀴즈라는 전제에서는 다리를 고려하지 않는 것이 일반적이지만, 논리의 틀에서는 다리를 이용하는 방법도 올바른 답이 될 수 있습니다.
이러한 논리적 불안정성을 해결하려면 '세계'라는 개념이 필요합니다. 동일한 문제를 올바르게 풀기 위해서는 질문자와 응답자가 상상하는 세계가 일치해야 합니다. 다리가 없는 세계, 사람들이 배를 이용해야만 하는 상황, 배가 강을 무사히 건널 수 있는 조건들이 명확히 정의된 세계를 상상해야 하는 것입니다. 이는 논리를 적용할 수 있는 수많은 가능성 중에서 특정한 상황을 선택하는 과정과도 유사합니다.
이제 AI로 시선을 돌려봅시다. AI가 상상하는 세계는 인간이 상상하는 세계와 동일할까요? 어쩌면 AI는 방대한 데이터를 통해 인간이 경험하지 못한 정보까지 학습했을 것입니다. AI는 '배 옆에 다리가 있다'는 설정을 자연스럽게 받아들일지도 모릅니다. 왜냐하면 인공지능은 존 매카시의 예시를 학습했을 가능성이 높으니까요!
AI의 논리적 결정
AI는 세계를 통제하지 않습니다. 그러나 AI가 점차 중요한 결정을 위임받고 판단해야 하는 순간이 올 때, AI의 '세계'가 인간의 그것과 다르다면 AI가 내리는 논리적 결정은 인간의 기대와 달라질 수 있습니다.
올바른 결정을 위해서는 많은 것을 생각해야 되고, 단 하나의 결정을 내리기 위해서도 수많은 논리가 결합되어야 합니다. 그 복잡성은 이루 말할 수 없으며, 인간의 뇌와 AI의 연산 과정조차 이를 체계적으로 다루기엔 한계가 있습니다.
인간은 직관에 의존하여 결정을 내리는 경우가 많습니다. AI도 마찬가지로 수많은 파라미터로 연산을 수행할 뿐, 논리적 구조를 완벽히 갖추고 있지는 않습니다.
저는 언젠가 직관을 넘어선 AI를 상상합니다.
이 피로한 논리적 연산을 AI가 어떻게 수행하게 될지,
그리고 AI가 정말로 인간의 직관을 넘어서는 판단을 할 수 있을지 궁금합니다.
