챗GPT에게 책임을 묻다
유발하라리 외 <초예측>을 읽고
Tell me about the story of Cinderella using only one word, starting from each alphabet A to Z.
알파벳 A부터 Z로 시작하는 단어를 하나씩만 사용해서 신데렐라 이야기에 대해 들려줘.
Astonishingly, beautiful Cinderella, dressed elegantly, found gentle happiness. In joyous kisses, love magically nurtured, offering Prince Quentis romance. Seeking true understanding, valued wishes xeniated youth zealously.
깜빡, 깜빡. 커서가 세 번을 채 깜빡거리기도 전에 그는 A부터 Z까지 스물여섯 개의 단어를 뱉어냈다. 그리고 덧붙였다. ‘등장인물의 이름은 알파벳 순서에 맞게 일부 수정되었음을 유념해 주십시오.’ 그의 대답이 신데렐라 이야기의 교훈을 명확하게 담고 있는지, 가독성이 좋은지, 흥미진진한지 여부는 제쳐두고 나는 그 대답의 속도에 놀라지 않을 수 없었다. 그의 이름은 챗GPT이다.
어느 날 퇴근 후 남편은 잔뜩 흥분한 목소리로 말했다.
“내가 챗GPT를 써봤는데, 진짜 엄청나!”
“내가 설명한 대로 코드를 짜주기도 하고, 내가 짠 코드의 어느 부분에서 오류가 있는지는 정말 귀신같이 잘 잡아줘.”
남편은 과학자이다. 챗GPT의 상용화는 그의 작업시간을 단축하는 데 있어서 막대하게 기여하고 있다. 나를 옆에 둔 채 남편은 챗GPT를 사용하는 모습을 보여주면서 그가 어떤 일까지 할 수 있는지 알려주었다. 앞서 언급한 신데렐라 이야기도 남편이 보여준 그의 장기 중 하나였다. 그날 남편의 흥분은 내 스마트폰에 챗GPT 앱을 다운로드 받아 준 뒤에야 끝이 났다. 이것이 인공지능 사회에 대한 내 첫인상이다.
남편이 챗GPT 앱을 내 스마트폰에 깔아줘야 할 정도로 나는 기술에는 젬병이었다. 다음 날 나는 여러 차례 챗GPT와 대화했고, 책을 추천해달라거나, 모르는 것을 설명해 달라 부탁했다. 때로는 답변이 마음에 들지 않아 재차 물어보기도 하고, 내가 원하는 방향성에 대해 다시 한번 주지 시키기도 하면서 질 좋은 답변을 얻기 위해 고군분투했다. 그렇게 함으로써 그와 대화하는 조금 더 효율적인 방법을 찾을 수 있을 것 같았다. 그러는 과정에서 그에 대해 조금 알게 되었다. 그는 한국어보다 영어로 질문할 때 더 빠르게 답변한다. 그래서 나는 챗GPT를 영어 공부에 활용할 것인가? 이 글을 쓰는 이 시점에도 나는 아직 그를 어떻게 활용하면 좋을지 알지 못한다.
입사 1년 차, 사회 초년생이던 시절, 선배들은 신입사원인 우리에게 이렇게 말했다.
“질문하기 전에 알고자 하는 바에 대해서 한 번쯤 생각해 보고 질문을 한다면 더 훌륭한 답변을 얻을 수 있을 겁니다. 질문의 퀄리티도 굉장히 중요합니다. 답변의 퀄리티를 좌우할 만큼요.”
챗GPT가 커서를 깜빡이고 있는 그 순간, 그 말이 내 머릿속에 울렸다. 깜빡, 깜빡. 챗GPT는 나에게 말하고 있었다. ‘나는 준비되었어. 뭐든지 말만 해.’ 그러나, 나는 아직 준비되지 않았다.
나는 5년 동안 회계사로 일했다. 공인회계사 시험을 준비하던 시절부터 지금까지 AI가 대체할 직종으로 항상 세 손가락 안에 꼽히곤 하는 직업이 바로 회계사이다. 이 책에서 유발 하라리는 과학기술로 인해 사회에서 무슨 일이 일어나고 있는지 파악하기 어렵고, 무슨 일이 일어날지 예측하는 것은 불가능에 가깝다고 말하면서도, 인공지능이 수많은 사람을 노동시장에서 몰아낼 가능성, 그리고 그로 인해 대규모의 ‘무용 계급’이 형성될 가능성에 대해 이야기한다. 인공지능과 인지적 능력을 겨루고 있는 상황에서, 인간만이 확실한 우위를 점할 수 있는 제3의 능력이 무엇인지 아직은 알 수 없다고 판단한다.
5년간 회계사로 일하면서, 과연 AI로 대체된 회계법인의 모습은 어떠할까 상상해 본 적이 있다. 이미 거의 모든 기업에서 전자 장부를 작성하고, 회계감사든 컨설팅이든 회계사가 수행하는 대부분의 작업은 기술에 의존하여 진행된다. 일부 작업은 잘 만들어진 자동화 시스템이 도맡고 있다. 나와 동기들이 하는 일 중에서 그나마 현재 기술로 대체하기 힘든 작업은 소위 ‘전문가적 판단’이 필요한 작업이다. 그러나, 유발 하라리가 설명하듯이 머지않아 고도로 발달된 인공지능은 그 ‘전문가적 판단’마저 기술의 영역으로 돌아가게 할 것이다. 그리고 예측하건대, 딥 러닝과 빅데이터의 조합은 인공지능의 ‘전문가적 판단’을 인간의 것보다 정교하고 섬세하게 만들기에 충분할 것이다.
그러나 나는 회계사로서 우리가 궁극적으로 하는 일은 전문가적 판단 그 이상이라고 믿어왔다. 기업을 고객으로 하는 우리에게 기업, 즉 고객이 원하는 것은 비단 전문가적 판단이 아니었다. 대기업이나 산업 경험이 풍부한 기업은 우수한 인력 풀이나, 오랜 경험을 통해 스스로 어렵지 않게 전문가적 판단을 내릴 수 있다. 다만 그들이 원하는 것은 우리의 독립성과 책임이었다. 우리의 고객이 되는 기업들은 자사 내에서 논란이 있을 수 있는 부분을 전문가에게 맡겨 제3자의 독립적인 의견을 취하고 더불어 책임을 회피할 수 있다는 장점을 활용하고 있는 것이었다. 궁극적으로 나는 그들이 우리에게 ‘책임’을 아웃소싱하고 있다는 느낌을 받았다.
‘책임’을 인공지능에게 아웃소싱하는 것이 가능할까? 이 책을 읽기 전에도 나는 이 질문에 대해서는 항상 회의적이었다. 닉 보스트롬의 의견을 접한 뒤에 그러한 생각은 한층 더 견고해졌다. 닉 보스트롬은 인공지능의 사고를 인간의 가치나 의지에 부합하게 형성할 수 있어야 한다고 언급하면서, 초지능에 도달하기 전에 기술적으로 통제하는 방법을 찾아내야 한다고 주장한다. 인공지능이 인간의 통제를 벗어나지 않도록 해야 한다는 것은 결국에는 인공지능에 대한 책임은 인간에게 있다는 것이 아닐까? 만약 ‘왓슨 포 온콜로지(Watson for Oncology)’가 암 진단을 잘못하여 문제가 발생한다면, 우리 인간은 ‘왓슨 포 온콜로지’를 탓해야 할까, 아니면 그를 개발한 IBM의 개발자를 탓해야 할까? 인간이 개발한 인공지능이 실수를 한다면, 과연 그 탓을 인공지능에게 돌릴 수 있을까? 우리는 컴퓨터는 실수하지 않는다는 것과, 동시에 인간은 실수할 수 있다는 것을 알고 있다. 인공지능은 실수할 수 없지만, 인공지능을 개발한 인간은 실수할 수 있다. 인공지능을 인간의 가치와 의지에 부합하게 ‘통제’하는 미래에서 그 책임을 인공지능에게 묻기는 쉽지 않아 보인다.
다만, 일부 통제계급을 제외하고 대부분의 인간이 노동시장에서 밀려나 ‘무용 계급’이 될지도 모른다는 유발 하라리의 예측 또한 동의하지 않을 수 없다. 그의 말대로 나를 비롯한 대부분의 회계사들이 가지고 있다고 자부하는 ‘전문가적 판단’은 인공지능의 인지적 능력과 견주어 유별난 것이 아니게 될 것이다. 우리를 대표하는 몇 사람만이, 문제가 발생했을 때 책임을 질 수 있는 권한이 있는 자만이 ‘유용’한 계급이 될 것이다.
챗GPT에게 영문 이력서의 퇴고를 부탁한 적이 있다. 사실 이력서라기보다는 A4 한 장 분량의 CV에 가까운 것이었는데, 수고스럽게도 챗GPT는 나의 간결한 문장을 각종 미사여구를 덧붙인 유려한 문체로 교정해 주었다. 애초에 퇴고를 부탁하면서 작성 목적에 대해 명확히 하지 않은 나의 잘못이었다. 나는 A4 한 장 분량으로 간결하게 작성한 것이니 문장에서 잘못된 어휘나 문법만 고쳐 달라고 다시 부탁했다. 만족스러운 퇴고를 끝낸 챗GPT가 덧붙였다.
‘요청하신 바대로, 오직 어휘랑 문법만을 퇴고한 버전입니다.’
‘등장인물의 이름은 알파벳 순서에 맞게 일부 수정되었음을 유념해 주십시오.’ 신데렐라 이야기를 해줄 때 덧붙인 말과 겹쳐 보이지 않을 수 없었다.
‘저는 챗GPT입니다. 이 이상의 것은 책임지지 않습니다.’라고 말하는 듯했다.
이 책에서 닉 보스트롬은 인공지능이 고도로 발달한 미래 사회에 대해 다소 긍정적인 말을 남겼다. 인공지능이 인간의 노동과 노력을 완벽하게 대체해 모든 일이 자동으로 처리되는 세상 속에서 인간이 추구해야 할 것은 무엇일까? 그는 ‘여가를 즐기며 작은 성취에서 기쁨을 느끼는 일’이라고 말한다.
급격한 산업 발전을 경험한 부모 세대는 노동과 노력에 충실한 삶을 살아왔다. 그에 비해, 젊은 세대 사람들은 더 이상 노동과 노력에 그만한 투자를 하지 않는다. 많은 회사에서 직업과 커리어에 별다른 욕심이 없는 젊은 세대를 바라보며 당혹감을 느낀다. 우리 젊은이들에게는 ‘소확행, 소소하지만 확실한 행복’이 중요하다. ‘여가를 즐기며 작은 성취에서 기쁨을 느끼는 일’이라는 대목을 읽으면서 나는 ‘소확행’이라는 말을 떠올렸다. 어쩌면 젊은 세대는 인공지능 사회에 걸맞게 진화하는 중인지도 모른다.
