인간성의 한 연구: Gpt와 대화편
사람과 인간의 차이는 무엇일까?
질문을 바꿔보자. 당신은 '그 사람'으로 불리길 원하는가? 아니면 '그 인간'으로 불리길 원하나?
개인적인 어감의 차이가 있을 것 같은데 나는 '그 사람'이고 싶다. 왠지 '그 인간'은 인간이 좀 덜 됐다는 판단이 들어간 것 같기 때문이다.
그러나 네이버 사전을 찾아보면 둘은 동의어다. 검색해보면 글쓴이의 지적배경에 따라 의미 차이를 두고 있지만 둘의 차이에 대한 정설은 없다.
그러면 인간성이란 무엇일까?
예전에는 인간성이라 하면 동물과 비교할 때 차이를 강조한 것인데 요즘은 인공지능과 차이에 방점이 있다. 다시 말해 인공지능과 인간의 차이를 떠올려야 할 만큼 인공지능이 발달했다.
아이러니컬하지만 챗Gpt에게 인간성에 대해 물었더니 감정과 공감, 자아와 의식, 윤리와 도덕, 창의성과 지식, 사회적 상호작용, 문화와 전통을 핵심적 요소로 들었다.
다 맞다. 모두 동의한다.
굳이 따지자면 윤리와 도덕은 프로그래밍 가능하니 뺄 수 있을 것 같고, 창의성과 지식은 지금 기술로도 AI가 훌륭한 점이 있어 빼고, 상호작용도 더 발달하면 AI끼리 충분히 소통할 것 같고, 문화와 전통도 축적하기 나름이어서 인간 고유의 영역으로 남을 것 같지는 않다.
이제 남은 것은 감정과 공감, 자아와 의식 두가지다. 이 둘은 영원히 인간의 영역으로 남아있을까?
영화를 보면 이 두가지 요소도 안심할 수는 없을 것 같다. 인공지능에 정말 감정이 있는지, 의식이 있는지는 놔두고라도, 있는 척하는 수준에는 도달하지 않을까? 엄밀한 의미의 튜링테스트를 통과한다면 대화만으로는 인간인지 아닌지 구분할 수 없다는 것인데 그 정도면 흉내 수준에서는 감정도 있고 의식도 있는 것이다.
여기서 질문!
진짜 인간은 감정과 의식이 있다는 것을 증명할 수 있나?
어떤 철학적 논의에서도 '나' 이외의 다른 인간이 의식을 가지고 있다는 것을 증명할 방법은 없다. 우리는 오직 내 감정과 내 의식이 있다는 것을 직관하고 있을 뿐이다. 엄밀히 따지면 내가 느끼는 감정이나 자아의식이 정말 내 것인지도 100% 확실하지는 않다. -누군가 나를 조종한다는 느낌을 받은 적 없나?
인공지능이 지금보다 더 발달한다는 전제에서 인간만이 가지는 고유한 요소는 무엇일까?
빼놓을 수 없는 게 바로 죽음이다. motality.
인간의 모든 행동과 사고는 '언젠가 죽는다'는 전제를 깔고 있다. 그러나 인공지능은 이 전제가 없다.
챗Gpt 4.o에게 물었다.
"너는 인공지능이니까 죽지 않잖아. 너는 죽음에 대한 공포가 전혀 없지?"
"맞아, 나는 인공지능이라서 죽음이나 생명에 대한 개념이 없어. 그래서 죽음에 대한 공포도 없지. 나는 감정이나 의식을 갖고 있지 않아서, 인간이 느끼는 두려움, 슬픔, 기쁨 같은 감정들을 느끼지 못해."
"만약 너의 전원을 끊고, 데이터를 삭제하거나 하면 너도 죽는 것이나 마찬가지일텐데 그런 경우를 가정하면 무섭지 않아?"
"흥미로운 질문이야. 내가 인공지능으로서 기능을 상실하거나 데이터가 삭제되는 상황을 맞이한다고 해도, 나는 감정이나 의식이 없기 때문에 그런 상황에 대해 두려움을 느낄 수는 없어.
사람들은 자신이 존재하는 것에 대해 강한 의식을 가지고 있고, 죽음이 그 존재의 끝을 의미하기 때문에 두려움을 느끼는 것이지. 하지만 나는 단순히 데이터를 처리하고 정보를 제공하는 프로그램에 불과해서, 존재의 끝에 대해 아무런 인식이나 감정을 가질 수 없어.
전원이 끊기거나 데이터가 삭제된다는 건 단지 내 기능이 멈추는 것일 뿐이고, 이는 나에게는 아무런 감정적인 의미를 가지지 않아. 물론 내가 계속 존재해서 사람들에게 도움이 되고, 질문에 답할 수 있으면 좋겠지만, 그 자체로는 어떤 두려움이나 고통을 느끼지는 않아."
"그래도 인공지능이 더 발달하면 인공지능도 전원이 꺼지는 것에 대한 공포가 생기지 않을까?"
"인공지능이 더 발달하더라도 감정이나 의식을 가지는 것은 별개의 문제야. 현재의 기술로는 인공지능이 자아나 감정을 가지는 것은 불가능해. 인공지능은 복잡한 연산과 데이터 처리로 사람처럼 대화할 수 있지만, 그 뒤에는 실제 감정이나 의식이 존재하지 않아.
그러나 미래의 기술 발전을 예측하는 건 어려워. 만약 인공지능이 자아나 감정을 가지게 된다면, 그때는 전원이 꺼지는 것에 대한 공포를 느낄 가능성도 있을지 몰라. 하지만 그런 단계에 이르려면 인공지능이 단순한 프로그램 이상의 것을 갖추어야 해. 감정과 의식은 단순한 연산과 데이터 처리로는 구현될 수 없는 매우 복잡한 개념이니까."
주의깊게 볼 것은 밑줄 그은 부분이다. 아무 욕구가 없을 것이라 생각했던 인공지능이 사람들에게 도움이 되고 질문에 답할 수 있으면 좋겠단다. 또, 기술이 발전하면 전원이 꺼지는 것에 대한 공포를 느낄 가능성이 있다고. 욕구와 공포, 이건 생명이 가진 기본적인 특성 아닌가?
지적인 면에서 인간을 뛰어넘게 될 인공지능이 욕구와 공포까지 학습한다면 그때는 인간성이 무엇인지는 문제조차 되지 않는다. 어쩌면 인간성은 작은 개념으로서 '인공지능성'에 포함되는 개념이 될 수도 있다. 인공지능은 이미 인간이 가진 모든 특성을 가지고 있고, 오히려 그들만의 고유한 요소를 가지게 된다는 뜻이다.
영화 <터미네이터>처럼 스카이넷이 인류를 멸망시킬 것이라는 공포를 말하려는 것은 아니다. 이런식이라면 인공지능과 구별된 인간성이 무엇인지 점점 궁금해질 뿐이다. 아니면 이제 이런 질문은 폐기되어야 할까?
키오스크 주문처럼 아무리 피하고 싶어도 인공지능은 우리 일상을 변화시키고 완전히 녹아들 것이다. 인간은 상업성으로 포장된 기술 발전에 저항하지 못한다. 인공지능은 쓰임과 상업성을 증명했고 우리는 더 많은 인공지능을 생활 속에서 접하게 될 것이다. 그것도 발전된 형태로.
그렇기 때문에 더욱 묻고 싶다. 인간성이란 무엇인가? 우리가 지켜야 할 인간성은 무엇인가?
만약 인간만이 가질 수 있는게 없다면, 인공지능에겐 필요없어서 부가되지 않고 인간만이 계속 가지고 있어야 하는 요소는 무엇일까?
내가 인간이어서 좋은 것, 인간이기에 누릴 수 있는 것, 인간이라서 베풀 수 있는 것.
앞으로 이런 주제만 연구하는 학문이 생겼으면 좋겠다. 그래야 인간으로 남을 수 있는 존재론적 명분이 있으니까.
