고도로 발달된 인공지능은 인간이 될 수 있는가?
인공지능의 인간화
3. 고도로 발달한 인공지능
1) 인간과 같은 행동, 말을 하는 인공지능은 개발될 수 있는가?
인간과 같은 행동이나 말을 하여 인간과 구분하기 힘든 인공지능을 개발하기 위한 연구가 계속해서 진행되고 있습니다. 그렇다면, 이런 인공지능을 개발하는 것이 과연 가능한 일일까요? 현재, 인공지능이 인간과 얼마나 유사한지 테스트하기 위해서 사용하는 튜링 테스트가 존재합니다. 인공지능 연구가 활발하게 진행되고 인공지능이 많은 발전을 거듭하면서 이 튜링 테스트는 가볍게 통과하는 인공지능이 계속해서 등장할 것입니다. 하지만, 튜링 테스트를 통과했다고 하여 인간과 구분할 수 없는 인공지능을 개발했다고 할 수는 없습니다. 단순히, 채팅 프로그램에서 인간과 구분할 수 없는 유사성을 보여준 것이지 인간과 같은 말, 행동을 볼 수는 없기 때문입니다.
그렇다면 인공지능이 발달하면서 이런 인공지능이 만들어지는 것은 가능할까요? 학기말 페이퍼에서는 기계의 한계는 생각하지 않고 철저하게 인공지능에만 집중하겠습니다. 즉, 사람처럼 걷고 표정을 짓는 것과 같은 행동을 하는 “기계”는 만들 수 있다고 생각하겠습니다. 사실, 기계의 한계를 생각하지 않는다면 저는 인간과 구분이 가지 않는 인공지능이 개발되는 것이 충분히 가능하다고 생각합니다. 인간의 생활 패턴에 맞게 인공지능을 프로그래밍하고 인간의 질문에 적절한 답변을 할 수 있도록 수많은 정보를 인공지능에 넣거나 인터넷과 인공지능을 연결할 수도 있습니다. 또한, 인간과 같이 수면을 하는 등의 패턴을 인공지능에게 주입한다면 인간과 행동, 말에서 구분되지 않는 인공지능을 개발하는 것은 어렵지 않을 것입니다. 물론, 외형적으로 인간과 구분이 가지 않는 기계를 제작하고 그 기계가 인간과 같은 표정을 짓고, 움직이며, 행동하는 것은 어렵다고 생각합니다. 하지만, 이러한 문제만 해결된다면 충분히 제작할 수 있다고 생각합니다.
2) 인간과 같은 행동, 말을 한다면 그 인공지능은 생각을 하는가?
[1] 일반 인공지능
그렇다면, 이런 인공지능은 인간과 같이 생각하고 사고한다고 생각할 수 있을까요? 인간과 같은 행동, 말을 한다고 해서 그 인공지능이 사람과 같이 상황에 관해서 판단하고 사고하는 존재라고 볼 수 있을까요? 이를 살펴보기 위해서는 먼저 사고, 생각에 대한 정의에 대해서 살펴볼 필요가 있다고 생각합니다.
생각은 사물을 헤아리고 판단하는 작용, 어떤 사람이나 일에 대한 기억, 어떤 일을 하고 싶어 하거나 관심을 가지는 일을 뜻한다고 합니다. 또한, 사고한다는 어떤 것에 대하여 깊이 있게 생각한다는 의미를 가지고 있습니다. 즉, 무언가에 대해서 궁금증을 가지고 무언가를 알아내거나 파악하기 위해서 노력하는 일 등을 의미한다고 볼 수 있습니다. 사람들은 이 사고하는 힘, 생각하는 힘을 통해서 사물, 사람에 대해서 파악하고 학습합니다. 사물과 생각의 정의를 토대로 생각해보면, 단순히 저장된 행동, 말을 출력하는 인공지능은 아무리 인간과 구분할 수 없다고 하더라도 결코 생각하거나 사고한다고 볼 수 없습니다.
생각하고 사고하는 능력이 있다면, 그러한 존재는 스스로가 아는 범위에서 어느 정도 벗어난 범위에 관한 판단, 답변 등을 해낼 수 있어야 합니다. 인간이 자연에 대해서 연구하고 많은 것을 알아낼 수 있었던 것도 기존의 지식과 직관 등을 이용해서 더 많은 것을 연구하고 밝혀냈기 때문에 가능한 것이었습니다. 만약, 정해진 정보 안에서만 답변하는 인공지능이 존재한다면 그러한 인공지능은 자신이 아닌 범위에서 벗어난 질문, 의문에 대해서는 어떠한 답변도 내놓을 수 없습니다. 이러한 경우, 인공지능이 스스로 생각한다고 이야기하는 어렵습니다.
[2] 스스로 학습하는 인공지능
그렇다면, 스스로 학습하고 발전하는 인공지능의 경우는 어떨까요? 분명히 스스로 학습하고 발전하는 인공지능은 앞에서 이야기했던 인공지능보다는 더 인간에 가까우며 사고나 생각을 하는 존재와 가깝다고 이야기할 수 있습니다. 스스로 학습하고 발전하는 인공지능이 존재한다면, 이 인공지능은 인간이 특별히 정보를 주입하거나 새로운 코드를 만들어주지 않아도 스스로 능력을 개발할 수 있습니다. 만약, 고전 게임 능력 향상이 목적인 인공지능이라면 이 인공지능은 스스로 고전 게임을 플레이하고 고전 게임 분야에서 소위 말하는 “고인 물” 유저의 게임 플레이를 통해서 자신의 게임 플레이 능력을 향상할 수 있을 것입니다. 하지만, 스스로 능력을 향상한다고 해서 생각을 한다고 볼 수 있을까요?
생각의 정의에 관해서 다시 한번 생각해봅시다. 생각은 사물을 “헤아리며 판단하는” 능력, 어떤 일을 하고 싶어 하거나 “관심”을 가지는 일을 뜻합니다. 여기서 중요한 것은 스스로 판단하고 헤아리며 관심을 가져야 한다는 점입니다. 판단은 사물을 인식하여 논리나 기준 등에 따라 판정을 내리는 것을 의미합니다. 헤아리는 것은 수량을 세거나 짐작하여 가늠하거나 미루어 생각하는 것을 의미합니다. 기본적인 판단은 인공지능도 가능하다고 이야기할 수 있습니다. 인공지능도 기준을 가지고 판정을 내립니다. 헤아리는 것 또한, 기존의 우리가 부른 경험 즉, 데이터를 통해서 짐작하고 가늠하는 행동이 가능하다고 볼 수 있으며 수량을 세는 것은 인공지능에게 너무나도 쉬운 일입니다. 하지만, 관심은 어떨까요? 그들이 관심을 가지고 일을 수행한다고 볼 수 있을까요?
관심은 어떤 것에 마음이 끌려 주의를 기울이는 것을 의미합니다. 인공지능이 가지고 있는 것은 목적이지 관심이라고 보기 어렵습니다. 목적은 실현하려고 하는 일이나 나아가는 방향을 의미하며 행위의 목표를 의미합니다. 앞서 이야기했던 고전 게임 능력 향상을 위해 역할을 수행하는 인공지능을 살펴봅시다. 이 인공지능에게는 분명한 목적, 목표가 존재합니다. 바로 고전 게임을 더 잘하고 빠르게 수행하는 일입니다. 하지만, 이 분야나 행동이 인공지능의 관심 대상은 아닙니다. 인공지능이 마음이 끌려서 이 일을 수행하는 것이 아니기 때문입니다. 그들은 인간이 자신의 행동을 목표로 설정해두었기 때문에 수행하는 것이지 자신의 관심 분야가 고전 게임이라서 일을 수행하는 것은 아닙니다.
결국, 스스로 학습하고 배우는 인공지능도 생각을 한다고 보기는 어렵습니다. 그들은 결국 정해진 목표 안에 움직이는 것이며 그 목표조차 인공지능의 관심에 의해서 만들어진 것이 아니기 때문입니다.
3) 인공지능을 고통을 느끼는가? 감정을 가지는가?
인공지능이 생각과 사고를 하지 않는다면 고통이나 감정의 경우는 어떨까요? 고통과 감정도 인간이 가지는 고유하지는 않지만 중요한 특징 중 하나라고 할 수 있습니다. 고통은 몸이나 마음의 괴로움과 아픔을 의미합니다. 감정은 어떤 현상이나 사건을 접한 때에 마음에서 일어나는 느낌이나 기분을 의미합니다.
결국, 중요한 부분은 마음과 몸이라고 볼 수 있습니다. 마음의 정의를 한 번 살펴보겠습니다. 마음은 사람이 본래부터 지니는 성격이나 품성을 의미하며 사람이 다른 사람이나 사물에 대하여 감정이나 의지, 생각을 느끼거나 일으키는 작용을 의미한다고 합니다. 마음에서 중요한 부분은 생각입니다. 위에서 이야기를 했듯이 인공지능은 생각이나 사고를 하지 못합니다. 그렇다는 것은 인공지능은 마음을 지니고 있지 않다고 봐야 한다는 것입니다. 고통의 경우는 몸의 아픔과 마음의 아픔을 모두 포함하는데 여기서 마음의 아픔은 제외하고 생각해도 되겠습니다. 또한, 감정의 경우에도 마음에서 일어나는 느낌을 의미하므로 인공지능을 감정을 가지고 있다고 볼 수도 없습니다.
인간은 신경과 피부 등을 통해서 고통을 느낍니다. 인공지능도 고통을 프로그래밍하는 것은 가능할지도 모릅니다. 특정한 행동을 했을 때, 강제로 전원이 꺼지도록 하거나 일정 시간 동안 작동을 할 수 없게 만드는 등의 방식을 이용할 수 있습니다. 하지만, 이런 방식의 고통은 인간이 느끼는 고통과는 분명한 차이가 존재합니다. 인간은 신경을 통해서 뇌로 신호가 전달되고 이러한 과정을 통해서 고통을 느끼지만 인공지능은 이러한 고통을 느낄 수 없습니다. 결국, 인공지능은 몸의 고통도 가질 수 없다고 볼 수 있습니다.
4) 중국어 방 논변에 관하여
너무 단어의 정의에 관해서 이야기하며 논리를 펼쳐나간 것 같아서 이번에는 우리에게 친숙한 중국어 방 논변에 관해서도 이야기를 하고자 합니다. 간단하게만 중국어 방 논변에 관해서 이야기해봅시다. 방 안에 영어만 할 줄 아는 사람이 들어갑니다. 그 방에는 필담 즉, 글을 적어서 대화할 수 있는 도구와, 미리 제작된 중국어 질문과 질문에 대한 대답 목록을 준비해 둡니다. 이 방 안으로 중국인이 들어가고 중국어로 질문을 써서 안으로 넣으면 방 안의 사람은 그것을 준비된 대답 목록을 통해서 답변을 중국어로 써서 밖의 심사관에게 줍니다.
안에 있는 사람에 대해서 알지 못하는 중국인은 안에 있는 사람이 중국어를 할 줄 아는 것으로 오인할 것입니다. 하지만, 안에 있는 사람은 실제로는 중국어를 전혀 모르는 사람입니다. 단지 대답 목록이 있기 때문에 중국어를 알고 있는 것처럼 보이는 것입니다. 이와 마찬가지로 인공지능이 인간의 질문에 대해서 잘 답변하더라도 이 인공지능이 진정 지능을 가지고 있는지 생각을 하고 있는지를 알 수 없습니다. 이것이 중국어 방 사고 실험의 주장입니다.
이에 대한 반론에 관해서 이야기해봅시다. 몇몇 학자들은 안의 사람은 중국어를 이해하지 못하고 있지만 안의 사람과 중국어 방 자체를 합한 개체는 중국어를 이해하고 있다고 이야기합니다. 즉, 인간을 중심으로 생각하면 중국어 방 안에 있는 사람은 중국어를 모르는 사람입니다. 하지만, 인공지능의 경우는 인간의 위치에 있는 존재가 아니며 인간과 중국어 방을 합친 존재를 인공지능으로 생각해야 하고 이 개체는 중국어를 이해하고 있다는 주장입니다.
하지만, 중국어 방을 합친 존재가 중국어를 이해하고 있다고 주장할 수 있을까요? 중국어 방과 인간을 합친 개체는 정해진 질문에 대해서 정확한 답변을 출력할 수 있습니다. 이 개체는 대답 목록에 있는 질문과 대답에 대해서 정확하게 알고 있다고 볼 수 있습니다. 하지만, 이는 이해와는 다른 문제입니다. 단순히 암기하고 있다고 이야기하거나 저장되어 있다고 보는 것이 맞습니다. 이해는 사리를 분별하여 해석함, 깨달아 앎, 잘 알아서 받아들임 등의 의미를 가지고 있습니다. 정해진 대답 목록 안에서 질문을 받고 답변을 내놓는 것은 이해와는 다른 문제입니다.
중국어 방과 인간을 포함한 집합을 A라고 이야기하겠습니다. A는 문제를 해석하고 깨닫거나 알아서 받아들이는 것이 아니라 단순히 목록 안에 문제가 있었고 정해진 답변이 있기 때문에 답변을 내놓은 것입니다. 이러한 과정은 중국어를 이해하고 문제를 분석하여 답변을 내놓는 과정과는 거리가 멉니다.
물론, 질문 목록에 있는 질문이 수 만개의 수준을 넘어서 수억, 수조 정도로 넘어간다면 대부분의 질문에 문제없이 답할 수 있을 것입니다. 하지만, 단순히 많은 질문에 관해서 답할 수 있다고 해서 중국어를 이해한다고 볼 수는 없습니다. 가지고 있는 질문, 대답이 아무리 많아도 위의 과정에서 벗어나지 못하고 이해의 과정과는 가까워질 수 없기 때문입니다. 또한, 질문 목록에 없는 질문이 들어오는 경우에 제대로 된 답을 낼 수 없을 것입니다. 중국어를 온전하게 이해하고 있다면 기존에 공부하거나 암기한 질문에서 벗어난 질문이 들어와도 기존의 지식을 응용해서 답변을 내놓을 수 있어야 합니다.
이는 단순히 중국어와 관련된 분야를 넘어서 인공지능의 지능에 관한 이야기로 이어집니다. 결국, 인공지능이 인간의 질문에 대해서 답변을 제공하는 과정은 인공지능의 이해, 생각, 사고를 기반으로 하는 것이 아닌 인공지능이 가지고 있는 특정한 질문 목록, 대답 목록에서 인간의 질문과 관련된 질문, 대답을 찾고 이를 출력하는 과정인 것입니다. 이는 인간이 질문에 대해서 답변하는 과정과는 엄연히 다르며 인공지능은 인간이 가지고 있는 생각의 과정, 이해의 과정을 가지지 않음을 보여줍니다.
