인공지능에는 분명한 한계가 있다

챗지피티가 처음 나왔을 때 잠시 사용하고 나서 실망을 했다. 너무 기본적인 질문에도 틀린 답을 내놨기 때문이다. 그리고 hallucination이라고 부르는 거짓말도 너무 많이 해서 신뢰할 수가 없었다.

지금은 다르다. 나는 비용을 지불하며 챗지피티를 사용하고 있고, 1년 무료이용권을 통해 퍼플렉시티도 사용하고 있으며, 제미나이로 넘어가는 게 나을지를 실험해 보고 있다. AI를 사용한 지 아직 1년이 되지 않았는데 나는 일상에서 모든 검색을 AI에서 먼저 하고 있고, 일하는데도 많이 활용하고 있다. AI가 없이 지난 1년간 일했다면, 나는 과부하가 걸리는 걸 넘어서 맡은 일을 다 끝내지도 못했을 것이다. 나는 AI를 사용하면서 적어도 3-4일은 걸렸을 일을 2-3시간이면 끝내고 있다.

이렇게 전방위적으로 AI를 사용하는 과정에서 나는 AI가 일상에서는 유용하게 사용되지만 조금이라도 전문성이 요구되는 영역에서는 그 한계가 분명할 수밖에 없단 것을 느낀다. 그리고 AI가 세상을 지배하는 것과 같은 일은 현실적으로 일어날 수 없다는 확신도 든다. 아이러니하게도 그건 AI의 한계가 아니라 자기중심적인 인간 때문이다.

인간은 기본적으로 자기중심적일 수밖에 없다. 자신의 생존을 위해서라도. 차이가 있다면, 인간 중에 자신을 위해 다른 모든 것을 도구로 여기는 이기적인 인간과 자신이 가장 중요하긴 하지만 다른 사람도 존중할 줄 아는 이타성이 가미된 인간이 있을 뿐이다. 그런데 현대사회에서는 자기 확신을 갖는 사람이 많아지고 있고, 그런 사람들은 자기 확신에 기반한 글, 영상, 이미지를 만든다. 그리고 AI는 그것을 끊임없이 학습한다. 그 과정에서 AI가 균형을 잡기가 힘든 것은 정보화시대에는 양극단에 있는 정보들이 쏟아지고, 물리적으로 현실을 바라보면서 생각할 능력은 없는 AI들은 그런 정보들을 기초로 판단을 해야 하기 때문이다.

개인적으로는 이 부분을 넘어서 AI가 인간세상을 지배하기 힘들 것이라고 생각하는 더 근본적인 이유는 자기중심적인 인간들이 AI가 모든 자료들을 학습하는 것을 허용하지 않을 것이기 때문이다. AI는 무엇인가를 학습해서 익혀야만 한다. 그런데 AI의 등장 이전에는 저작권을 의미하는 copyright이라는 개념의 반대개념으로 copyleft 란 표현이 사용될 정도로 정보를 공개하는 것을 강조했던 것과 달리 인간의 자기중심성은 필연적으로 copyright의 개념으로 추를 움직일 수밖에 없다.

생각해보자. 내가 만든 저작물을 AI가 무제한적으로 활용할 수 있게 하고, 그로 인해 AI를 개발하는 회사가 모든 이익을 가져갈 수 있게 한다면 창작자들이 가만히 있을까? 절대로 그렇지 않을 것이다. 지금은 AI를 활용하는 초기단계이다 보니 그러한 주장들이 제기되지 않지만 창작자들이 AI로 인해 자신들의 업이 사라질 수 있겠다는, 자신이 먹고 살기 힘들겠다는 확신이 들면 창작자들과 그 창작물을 유통하는 사람들은 AI를 운영하는 기업에 비용을 요구하거나 접근을 하지 못하도록 차단하기 시작할 것이다. 먹고 살아야 하기 때문에.

지금도 드라마와 영화를 제작하는 과정에서는 스텝들에게 대본을 통으로 AI에 넣고 학습시키지는 말라는 지침이 내려지고 있다는 것이 이를 잘 보여준다. 나는 실제로 올해 하반기에 방영 예정인 한 시리즈의 제작 과정에서 그러한 지침을 받았다. 이는 대본을 AI에 넣고 학습을 시키면, AI가 누군가가 대본작업을 할 때 비슷한 소재가 나오면 학습한 대본을 활용할 수 있기 때문에 나오게 된 가이드라인이었다. 제작사들 중에는 AI시스템 전체에는 공유되지 않는 폐쇄된 계정을 통해 AI를 활용하는 곳도 있다는 이야기도 업계관계자에게 들었다. 이런 일은 AI의 사용이 보편화 될수록 더 많이 발생할 수밖에 없다.

이렇게 되면 AI는 완벽하게, 의심할 수 없을 정도로 객관적인 정보를 사람들에게 제공할 수가 없게 된다. 원천자료들이 모두 객관적이지 않는 것을 넘어서 어쩌면 과반 이상이 편향되어 있을 가능성이 높기 때문에. 그런 상황이 일반인들에게는 크게 문제가 되지 않는다. 하지만 변호사, 의사, 판사와 같은 사람들의 경우에 그건 완전히 다른 얘기다. AI가 주는 정보로 영원히 100% 신뢰할 수 없다면, 그 일을 하는 과정에는 전문가들이 개입할 수밖에 없을 것이다. 그래야 사람들의 사회, 경제, 생물학적 생명을 잘못된 정보로 인해 앗아가는 일이 생기지 않을 수 있기 때문에.

그러한 일들은 이미 일어나고 있다. 지난 학기 기말고사를 채점하는 과정에서 학생들 중 일부가 수업에서는 다루지 않았지만 관련 법분야와 관련성이 있는 내용을 답안지에 작성한 것을 발견했다. 그 중에는 맞는 내용도 있었지만, 실제 의미와 미묘한 차이가 있어서 틀리다고 할 수밖에 없는 내용을 작성한 경우도 있었다. 아마도 공부를 열심히 하는 학생이 AI에게 물어보면서 공부를 하지 않았을까 싶었다. 그래서 나는 학생들에게 AI를 사용할 수도 있지만 개념을 확실히 익히기 위해서는 출판된 교과서 참조하라고 했다. 학부생들이 공부하는데 궁금한 정보를 물어봐도 잘못된 내용을 설명해 주는 경우가 있다는 것에 비춰봤을 때 AI가 더 전문적인 영역에서 완벽해지기는 쉽지 않을 수 있다.

그보다 더 위험했을 법하고, 현실과 밀접하게 관련되어 있는 사건들도 일어나고 있다. 한 정부기관의 매우 전문적인 분야에서 일하고 있는 지인이 있는데, 그 분에게 다른 부서에서 '이런 판례가 있는데 변호사님은 왜 그렇게 말씀하셨냐?'라고 따지듯이 연락이 왔다고 한다. 그 변호사님은 '그런 판례가 있었나. 정말 있었다면 내가 일을 그만둬야 하는데'라고 생각하며 찾아보니 그런 판례는 없었다고 한다. 알고 보니 한 공무원이 AI에 질문을 했고, AI는 없는 판례를 있는 것처럼 만들어 냈고, 그걸 그대로 신뢰한 공무원은 그 내용을 보고서에 쓴 것이었다. 그리고 그 보고서를 읽은 상급자가 내 지인에게 따진 것이다. 이 얼마나 우스꽝스러운 해프닝인가?

지금은 마치 AI가 모든 것을 대체할 수 있는 것처럼 보일 수 있다. 그리고 실제로 AI는 많은 것을 대체할 것이다. 전문직의 숫자도 예전만큼 필요하지 않을 것이고, 전문직의 가장 중요한 자질 중 한 가지는 AI를 잘 활용하는 것이 될 수밖에 없다. 당장 지금 갓 자격증을 딴 회계사나 변호사가 일자리를 찾는 게 과거에 비해 어려워졌다는 것이 이를 잘 보여준다.

그렇다고 해서 AI가 모든 것을 대체할 수 있는 건 아니다. 로펌을 예로 들어보자. 로펌들은 지금 신입변호사의 숫자를 줄이고 있는데, 그 숫자를 계속 줄이기만 할 수 있을까? 그건 불가능할 것이다. 변호사들이 나이가 들어가고, 오프라인에서 지원을 받아야 할 일들이 생길 것이며, 그 과정에서 결국에는 사람을 키워내야 한다는 것을 어느 지점에선가 전문가집단들은 느낄 것이다. 그렇게 되면 전문가집단들은 다시 사람 전문가를 채용하기 시작할 수밖에 없다.

물론, 그때 채용하는 사람은 지금까지 그 집단에서 적용했던 기준과는 다른 기준으로 채용될 것이다. 그리고 그들에게 요구되는 결과물과 능력도 달라질 수밖에 없다. 그렇다고 해서 그들이 완전히 대체될 수 있는 것은 아니다. 당장 생각해보자. 당신이 70이 넘은 변호사이고 의뢰인을 직접 면담하기는 힘들고 싫은데, 의뢰인들은 보통 직접 설명을 듣고 싶어한다. 그때 AI를 어떻게 활용할 것인가? 그런 경우 의뢰인의 면담은 능력이 뛰어난 믿을 수 있는, 고용한 변호사에게 맡기고 싶을 것이다. 그런데 로펌들이 신입변호사를 고용하지 않는다면 그 정도로 믿을 수 있는 변호사는 만들어질 수가 없다. 장기적으로 보면 최소한 이러한 수요 때문이라도 로펌들은 능력치가 뛰어난 변호사를 길러내기 위한 노력을 할 수밖에 없을 것이다.

내 기억이 맞다면 1990년대까지만 해도 도서관에서 책은 컴퓨터로 검색할 수 없어서 열심히 카드를 뒤지고 뒤져서 제목을 본 뒤에 책을 직접 찾아서 자신이 원하는 내용이 있는 지를 확인한 뒤에 사거나 빌렸다. 요즘 그렇게 하는 사람이 어디 있는가? 사람들은 온라인에서 검색을 해서 어떤 책인지를 확인하고 자신이 필요하다고 판단되는 경우에만 사거나 빌린다. 이러한 변화가 일어나는 과정에서 수많은 사서들이 일자리를 잃었을 것이다. 그렇다고 해서 사서라는 직업이 완전히 사라진 것은 아니다.

마찬가지다. 이제 직업들은 새롭게 정의될 것이고, 각 직업군에서 요구되는 능력치도 달라질 수밖에 없다. 그중에 전문직에게 가장 중요한 것은 본인이 확실히 일정수준 이상의 전문성을, 제대로 갖추는 것이다. 그리고 그러하기 위해서는 전문적인 내용을 반복적으로 숙닥해서 익히는 것을 넘어서 다른 시각에서 사고하는 훈련도 되어 있어야 한다. 어떻게 하면 그런 능력을 기를 수 있을까? 그런 능력치는 단순 암기는 하지 않지만 이해하면서 공부해서 전문영역에서의 틀이 머리에 안정적으로 잘 자리잡고, 모든 것을 비판적으로 바라보고 의심하는 과정에서 길러진다.

그렇기 때문에 AI시대에는 교육이 과거 어느 때보다 중요해 질 수밖에 없다. 다만, 그 교육도 지금까지 이뤄져 왔던 교육과 완전히 다른 형태와 목표를 가지고 있어야 한다. 이제는 제대로 읽고, 해석해서, 이해할 뿐 아니라 그것을 바탕으로 본인의 생각까지 논리적으로 풀어낼 수 있는 경험치와 능력치를 길러주는 교육이 이뤄져야 한다. 그렇지 않은 사람들은, 지금까지 암기를 많이 하는 것을 목표로 하는 시험에서 좋은 점수를 받은 사람들은 낙오될 수밖에 없다.

그런데 아이러니하게도 그런 능력치를 기르기 위해서는 오프라인이 더 중요해진다. 이는 그러한 능력치는 직접 읽고, 쓰고, 자신의 생각을 공유하고, 다른 사람의 의견을 듣는 경험이 반복되어야 길러질 수 있기 때문이다. 그렇기 때문에 앞으로는 강사나 교사 한 명이 아니라 다양한 학생들이 다양한 의견을 주고 받을 수 있는 환경이 조성되는 게 더 중요하다. 그리고 앞으로 교사들은 그러한 의견들을 끌어내고 질문을 던지면서 학생들이 사고하도록 요구해야 하는데, 그럴 수 있는 환경은 학원보다는 공교육이 훨씬 조성하기가 수월하다. 이는 학원보다 학교에 학생들과 교사들이 더 다양하고 많기 때문이다. 스타강사에 의지하는 학원에서는 학생들이 사고의 폭을 넓혀가는데 필연적으로 한계가 있을 수밖에 없다. 물론, 이 모든 것은 교사들이 그러한 능력치를 함양하는 것을 전제로 한다.

AI가 많은 변화를 가져올 것은 분명하지만 그 파급력은 누구도 명확히 예측할 수 없다. 최근 언론보도에서 특정 직역은 사라질 것이라고 주장하는 사람들을 보면서 당혹스러운 것은, 실제로 특정 직역에서 일을 잘 하는 사람들에게 필요한 역량을 모르는 사람들이 그런 말을 하기 때문이다. 변호사, 판사, 검사, 의사, 회계사가 일하는데 중요하게 하는 능력치는 모르는 사람들이 무조건 그 직역은 대체될 것이고 대체되어야 한단 주장을 하는 것은 성급해 보인다.

분명한 것은 AI시대에 살아남고 '잘 나가는' 사람은 과거에 인류가 요구했던 것과 완전히 다른 능력치가 필요할 것이라는 것이다. 그런데 생각해보면 인간은 항상 이런 변화에 적응해야 했다. 수렵채집을 하던 시대와 농경시대, 농경시대와 산업사회, 초기 산업사회와 초고도로 발전된 산업사회에서 살아남거나 잘 나가기 위해서 필요한 능력치는 완전히 달랐다. 우리는 다시 한번 그 변화의 초입에 있을 뿐이고, 그러기 위해서는 적응하고 변하기 위한 노력을 해야 하는 건 맞지만 우리가 살아남을 수 없는 것은 아니다.

그리고 정보가 넘쳐나는 것을 넘쳐 인간이 아닌 시스템에 의해서 새롭게 창조되기까지 하는 사회에서 아이러니하게도 가장 중요한 것은 '교육'과 같이 원초적이고 아날로그한 것들일지도 모른다. 인간이 AI시대에서 살아남기 위해서 가장 중요한 것은 가장 인간다워지는 것이기 때문에.