AI 시대, 나의 사람됨은 어디서 오는가
나는 생각한다, 고로 존재한다.
데카르트의 말이다. 데카르트는 인간의 존재의 의미가 사유에서 나온다고 믿었다. 최근, 챗GPT와 같은 대형 언어 모델(LLM) 챗봇의 등장으로 인해 인간이 사고하는 능력이 줄어들고 있다는 연구가 나왔다. 우리가 생각하기를 그만둔다면, 우리의 사람됨은 어디서 올까.
코넬대학교의 심리학자 로버트 스턴버그는 말한다. "AI가 우리를 위해 뭘 할 수 있을지보다, 우리에게 뭘 하고 있는지를 봐야 한다"라고. 우리는 이제 글쓰기, 코딩, 미술을 단 몇 초면 해결하는 세상에 살고 있다. 직접 읽고 이해하고 고민하고 구상하고 작업하고 퇴고하는 일은 이제 너무나 길고 지난한, '촌스러워' 보이기까지 하는 과정이다. 챗GPT를 생각해 보자. 답변이 30초만 넘어가도 '인터넷이 느린 건가? 오늘 챗GPT 왜 이러지?' 싶지 않은가.
우리 삶에 가장 밀접한 AI는 챗봇 형태의 생성형 AI다. 휴대폰이 생기면서 뇌가 전화번호를 외우는 짐을 덜어냈듯, 인지적 노력을 AI에 넘기는 현상을 cognitive offloading이라고 부른다. 전문가들은 이 cognitive offloading 자체를 부정적으로 보지 않는다. 다만, 뇌의 부담을 덜어주는 정도를 우리가 조절할 수 없다는 점을 지적한다. 인간과 챗봇형 AI는 상호 작용을 하고, 훨씬 다양한 업무를 대신해 줄 수 있기 때문에 우리가 집중하고 깊이 사고하는 능력 자체가 퇴화할 수 있다고 주장한다. 직접 하는 작업이 줄어들면, 그 능력을 유지할 기회도 사라진다. 근육을 쓰지 않으면 약해지는 것처럼, 뇌도 쓰지 않으면 신경 회로가 약해지기 때문이다.
물론, 새로운 기술이 등장할 때마다 이런 걱정은 항상 존재했다. 계산기는 직접 계산하는 능력을, 스마트폰은 전화번호를 외울 필요를, 그리고 내비게이션은 우리의 길눈을 약화시켰다. 하지만 한 심리학 연구는 지금의 챗봇형 AI는 그간 있었던 기술의 모습과 몹시 다르다고 지적한다. 계산기를 예로 들어보자. 계산기를 사용하는 범위와 때는 '수학 문제를 풀 때'로 지정이 되어있다. 개인적인 삶이나 정신에 영향을 미친 다기보다는, 복잡한 셈을 빠르게 해 주는, '역할이 분명한' 기술이다. 계산기는 내가 생각하고 느끼는 방식에 영향을 미치지 못한다. 하지만, 챗봇형 AI는 다르다. 단순 정보 제공을 넘어 머리를 써야하는 거의 모든 일을 대신해 줄 수 있다. 게다가 인간과 유사하게 소통하며 공감과 위로를 하는 경지에 올랐다. 챗봇형 AI는 우리로 하여금 생각을 덜 하게 하고, 감정과 심리를 건드려 과하게 의존하게 만들 수 있다. 과한 의존은 우리의 비판적인 사고를 약화시킬 수밖에 없다. 물론, 뇌 기능 저하를 무조건 AI 탓으로 돌릴 수는 없다. 단일 요소가 아닐 테니 말이다. 상관관계를 인과관계처럼 확대 해석하는 데는 위험이 따른다. 하지만 무시하기에는 어려운 다양한 연구 결과가 있다.
스위스 SBS 비즈니스스쿨의 미하엘 게를리히 교수는 영국인 666명을 대상으로, AI 사용 빈도가 높을수록 비판적 사고력이 낮아진다는 상관관계를 관찰했다. 특히 젊은 층일수록 AI에 더 의존했고, 그만큼 비판적 사고 능력이 떨어졌다. 마이크로소프트와 미국 카네기멜론대학교 연구진이 진행한 또 다른 연구에서는, AI를 일주일에 한 번 이상 쓰는, 나와 같은 직장인 319명을 대상으로 조사했다. 한 참가자는 “AI 덕분에 많은 정보를 쉽게 얻지만, 뭔가를 제대로 배우거나 기억하지 못하는 것 같아요. 이제는 스스로 문제를 어떻게 풀어야 할지도 모르겠어요”라고 답했다. 챗GPT가 다운되었던 어느 날, 뭘 해야 할지 몰라 잠시 멍하니 앉아 새로고침만 누르던 내 모습이 떠오른다.
여기에 이름부터 짧음의 중요성을 강조하는 숏츠나 릴스처럼 빠르게 관심을 끌어야 하는 콘텐츠의 홍수로 인해 더욱 짧아지는 집중력은 뇌 기능 저하를 가속화시킨다. 우리는 비평적인 사고를 할 시간이 없다. '광고 건너뛰기' 버튼을 누르기 전, 10초 안에 정보를 흡수시키기 위해 생각할 필요가 없는 정보를 던지기 때문이다. 게다가 챗GPT는 정보를 이해하기 쉽게 전달한다는 사실을 알고 있는가? 우리는 머리를 쓸 일이 점점 줄어들고 있다. 종종 모국어로 된 긴 글을 챗GPT에 넣으며 요약본을 요청한다. 나는 이제 한글도 잘 못 읽는 것이다. 그리고 가장 큰 문제는, 이 모든 걸 인지하면서도, 출근하면 가장 먼저 챗GPT를 키는 나 자신이다.
'내가 멍청하단 생각이 들 때, 어찌 됐든 챗GPT 없이 졸업까지 한 사람이란 걸 떠올린다'라는 밈(meme)이 있다. 그 밖에도 ‘챗GPT 없는 시대에 어떻게 숙제를 했지?’라는 자조적인 밈들이 넘쳐난다. 챗GPT가 대중화된 지 몇 년 남짓인데, 이제는 챗GPT가 없는 일상이 불편하다. 그렇다면 태어날 때부터 AI가 있는 세대는 어떨까? 문제를 직면했을 때, '어떻게 해결하지' 보다는, '뭐라고 AI에게 물어야 더 좋은 답을 주지' 하고 고민하지는 않을까? 우리는 AI를 위한 사람이 되지는 않을까? 문득, 한 에세이가 떠오른다.
와이콤비네이터 파트너인 Pete Koomen(피트 쿠멘)이 쓴 글이다. 쿠멘은 AI 기반 소프트웨어를 만들 때, AI를 '붙이는' 방식이 아닌, 애초에 AI를 위한, AI 중심의 소프트웨어를 만들어야 한다고 주장한다. 그 예로, 모터가 처음 발명되었을 때 마차에 말만 빼고 모터를 단 아이디어를 든다.
1803년에 디자인된 말 없이 달리는 증기 마차. 출처: 위키피디아모터를 중심으로 이동수단을 만들어야 모터를 제대로 활용할 수 있지, 마차 형태에 모터를 달아봤자 딱히 나아질 게 없다는 소리다. 저 말 없는 증기 마차보다는 말이 끄는 진짜 마차를 타는 게 훨씬 편할 것이다. 이에 따라 저자는 AI-native, 즉, AI가 애초부터 설계의 중심이 되어야 한다고 주장한다. 동의한다.
그런데 정작 인간이 더 빨리 AI-native가 되면 어쩌나, 하는 걱정이 든다. 우리가 능동적으로 AI를 쓰는 게 아닌, 애초에 우리의 사고와 문제해결 능력이 AI 중심으로, 그에 맞춰서 자라면 어떻게 될까?
AI가 퍼져있는 세상에 AI 중심 사고가 왜 문제가 되나 싶기도 하다. 하지만 어딘가 불편하다. AI는 결국 데이터 기반이고 데이터에 따라 내재된 편향이나 오류가 있을 수 있다. 무엇이 옳고 그른 건지 스스로 판단할 힘이 없이, 주어진 답을 학습한다면 우리와 AI의 차이는 어디서 올까? 어느 순간, 우리는 서로에게 학습 데이터를 주고받는 거울 같은 존재가 되어버리는 건 아닐까? 소프트웨어야 도구로서 다른 방향으로 발전하는 개념이지만, 주체인 인간은 방향성이 달라지는 게 아닌, 갖고 있는 고유의 능력을 상실하는 퇴화에 더 가깝다. 소프트웨어는 특정 기능을 잃지만 우리는 우리의 인간됨을 잃을 수 있다. 물론, 기술을 잘 사용하면 분명 이득이다. 인간의 모든 면이 퇴화하는 것도 아니다. 다만, 챗GPT가 불러온 뇌 기능 저하를 그간의 기술로 인한 변화 수준으로 봐도 되는 지가 우려스러울 뿐이다.
코로나가 기승을 부리기 전, 매일 한강을 뛰었다. 코로나 기간 동안 점차 뛰지 않았고, 미루다 보니 1년 뒤에는 한 달에 한 번 뛸까 말까였다. 운동을 하냐는 동료의 질문에 반사적으로 '저, 뛰어요!'라고 답했다. 동료는 최근에 언제 뛰었는지 물었고, 나는 '음.. 한두 달 전?'이라고 답했다. 동료는 '그 정도면 안 뛰는 거 아니에요?'라며 농담을 던졌다. 깔깔 웃었다. 맞는 말이었다. 그 정도면 뛰는 게 아니다. 점점 깊게 생각하고, 어려운 글에 대해 고민하고, 프로젝트를 기획하고, 이메일에 쓸 단어를 고르지 않는 나를 돌아본다. 계속 하루씩 미루다 보면, 나는 더 이상 깊게 생각하고, 어려운 글에 대해 고민하고, 프로젝트를 기획하고, 이메일에 쓸 단어를 고르는 사람이 아니다.
수백 년이 지난 지금, 데카르트는 다시 묻는다.
그렇지만 나는 무엇인가? 생각하는 존재다. 그게 무엇인가? 이는 곧 의심하거나, 이해하거나, 긍정하거나, 부정하거나, 욕구하거나, 욕구하지 않거나, 또한 상상하거나 느끼는 존재다.
내가 있다, 내가 존재한다, 이건 확실하다. 그런데 얼마나 오래? 내가 생각하는 동안은 확실히. 왜냐면 내가 모든 생각을 멈출 때, 내가 완전히 사라진다는 것도 가능하기 때문이다.
데카르트, 〈제2성찰〉中
나는 '나'로서 사유하는가? 나로서 의심하고, 이해하고, 긍정하고, 부정하고, 욕구하거나, 욕구하지 않거나, 상상하거나, 느끼는가? 이 모든 것을 AI에게 맡기고, 그가 하는 사유를 나의 것이라고 착각하지는 않는가? 그렇다면, 나의 사람됨은 어디서 오는가?
나는 인간을 믿는다. 우리는 챗GPT가 없어지고 스마트폰이 사라져도, 결국 적응하고 살아갈 수 있는 존재이다. 다만, 이는 우리가 잃은 게 '기술'일 때의 이야기다. 사람됨을 잃는다면, 이를 되찾기까지 얼마나 오랜 시간이 걸릴지 알 수 없다.
참고 자료
- Pete Koomen 에세이 <AI Horseless Carriages>
- The Guardian 기사 <‘Don’t ask what AI can do for us, ask what it is doing to us’: are ChatGPT and co harming human intelligence?>
- 견해 논문 <From tools to threats: a reflection on the impact of artificial-intelligence chatbots on cognitive health>
- 위키피디아 (데카르트 인용문)
