학생 여러분, AI는 마검魔劍이에요!
AI와 학습자의 딜레마
이제 곧 3월이 다가옵니다. 말인즉슨 개학 또는 개강이 다가온다는 뜻이지요. 그것도 새 학년. 그래서 2학기보다는 1학기가 더 설레나 봅니다. 완전히 새로운 시작을 뜻하니까요. 그런데 말입니다. 이 설렘 가운데서 스멀스멀 올라오는 불안이 있습니다.
바로 AI 부정행위에 대한 불안입니다. 작년 2학기부터 서울대, 고려대, 연세대 등의 대학에서 AI 및 디지털 기기를 활용한 부정행위가 적발된 것입니다. 학습윤리에 대한 문제부터 수업에 대한 신뢰, 대학 교육 시스템의 한계 등 여러 문제들을 한 번에 묻게 하거니와, 부정행위를 확인하지 못했을 때의 책임 등을 생각하면 여러모로 염려스러울 수밖에 없는 상황입니다.
기사에 나온 것처럼 온라인 시험이야 접속 기록이나 오픈채팅방, 다수의 창 활용 등을 통해 AI 부정행위를 포착할 수는 있을 겁니다. 하지만 그 외의 과제들은 어떨까요? 'GPT킬러 피하는 방법', 'AI 표절률 낮추는 방법'은 이미 많은 학생들 사이에서 공유되고 있습니다. 'AI 없이 대학 졸업한 나 칭찬해' 같은 밈은 대학생들의 AI, LLM 모델 활용이 일상화되었다는 것을 잘 보여주는 반례라고 할 수 있겠습니다.
사실 학생들도 헷갈릴 수 있습니다. 당장 캠퍼스에 들어오면 AI 활용 교육, AI 전문가 양성 등 온갖 AI 관련 플랜카드가 펄럭입니다. 학교에서도 AI 관련한 수업을 만들어 놓고, TV에서는 AI 시대에 인간은 필요 없다, 어서 AI를 활용해라, 그렇지 않으면 뒤처질 것이라고 전문가들이 엄포를 놓습니다. 그런데 왜 수업에서 AI를 사용하지 말라고 하는 건가요? 빨리 결과물을 내놓으면 좋은 거 아닌가요? 다른 사람들은 다 쓰는데요? 라는 물음이 생길 수도 있을 겁니다.
하지만 가장 중요한 전제가 있으니, 그건 바로 학교는 공부를 하러 오는 곳이고, 학습자는 전문가가 아니라는 사실입니다. 학습자는 전문가가 되기 위한 역량을 갈고 닦는 사람입니다. 아직 AI를 사용할 단계가 아닙니다. 수업의 목적은 '나'의 학습의 촉진이고, AI는 '나'가 아닙니다. AI로 결과물을 뚝딱 만들어봤자 '나'의 것도 아닐 뿐더러 '나'에게 좋을 것이 없다는 것입니다. 비판적 사고-생각 없이 AI를 사용하는 것이 오히려 AI 시대에 뒤처지는 지름길이라는 것이지요.
2025년 6월 MIT LAB에서 이에 대한 연구를 발표했습니다. 에세이 작성을 사용하는 도구를 기준으로 생성형 AI 사용/검색 엔진 사용/도구 사용하지 않음이라는 세 가지 팀을 나누어 뇌의 변화를 비교했지요. 결과는 명확했습니다. 생성형 AI를 사용한 팀은 뇌의 연결성이 최대 50%까지 감소했고, 무엇보다 AI의 도움을 받아 작성된 에세이에 대해 중요성이나 소유권을 낮게 느꼈습니다. 작성한 자신의 글을 인용하라고 했을 때, 즉 자신이 쓴 글을 기억하느냐는 과제에서는 83%가 어려움을 겪었고, 그 중 정확히 인용한 사람은 없었습니다. 감정적으로나 인지적으로나 자신의 글이 아닌 것이죠.
게다가 더 심각한 문제는 '인지 무기력'에 있었습니다. AI 사용이 습관화된 그룹의 경우 수 개월이 지난 후 AI 없이 뇌를 써야 하는 테스트에서 뇌만 사용한 그룹보다 신경, 언어, 점수 측면에서 훨씬 낮은 성취도를 보였습니다. AI 습관화로 인한 인지 무기력 효과는 사라지지 않고 지속됩니다.
그리고 바로 여기에 AI의 특성이 발현됩니다. 왜 사람들은 그렇게 AI를 사용하려는 걸까요? 흔히 사용하는 생성형 AI, 거대 언어 모델LLM에 기반한 AI는 모든 유형의 인지 부하를 감소시킵니다. 웹 검색과 같은 전통적인 방식에 비해 인지 부하를 32%나 낮추지요.
부하가 낮아지면 좋은 거 아닌가? 아니오. 인지 부하가 낮아진다는 건 생각하지 않는다는 겁니다. 각각의 정보를 인식하고 정리하고 통합하는 생각을 포기해버린다는 것입니다. 딸깍 누르면 알아서 정리해 주는데 왜 굳이 힘을 쓰겠습니까? 편하게 누워 있으면 되지요. 하지만 생각해 보세요. 우리가 헬스장에 가는 이유는 뭔가요? 건강해지기 위해서입니다. 건강해지려면 어떻게 해야 하나요? 운동을 해야 합니다. 몸은 단련할수록 강해지고, 근육을 키우기 위해서는 먼저 근육을 피로하게 하고 근섬유를 찢어야 합니다. 뇌도 마찬가지입니다.
우리는 전자 휠을 타고 런닝머신 위에서 2시간 서 있는 것을 '운동을 한다'고 하지 않습니다. 도르래를 가지고 100kg짜리 역기를 든대도 그게 무슨 의미가 있겠습니까? 헬스장에 돈만 버린 셈이지요. 마찬가지입니다. AI를 사용해 결과물을 툭 하고 내놓는다고 해서 그것이 학습자의 성장에 도움이 되지 않습니다. 인지 부하의 감소는 사용자를 적극적인 비판적 추론자가 아니라 수동적인 감독자로 만듭니다. 이게 정말 맞나? 이렇게 연결하면 어떨까?가 아니라 맞겠지 뭐, 제출하자. 라는 태도를 초래하지요. 게다가 앞서 말한 것처럼 소유감도 없고, 성취감도 없습니다.
제가 좋아하는 장면이 있는데요, 영재발굴단에 나온 다섯 살 소녀 시윤이입니다. 사실 이 방송을 보지는 않았는데, 캡쳐본을 보고 마음을 빼앗겼습니다. 왜 역도가 재밌느냐는 질문에 시윤이는 거침없이 대답하죠. "무거워서." 저 한 마디에 수많은 기쁨이 담겨 있습니다. 역기의 무거움, 들지 못하는 한계, 어려움을 극복하는 노력, 그리고 마침내 역기를 들어올릴 때의 성취감. 그 모든 것을 압축했죠. 이제 동물이 도구도 사용하고, 친사회성도 지닌다는 것이 밝혀졌습니다. '도구를 사용할 줄 아는', '사회적인' 것 모두 인간만의 특성이 아니라는 것이 밝혀지고 있는데, 그래도 '인간다움'이나 '인간의 가치'가 남아 있는 부분이 있다면 바로 많이, 깊이 '생각하는' 것 아닐까요?
다른 한편으로 이렇게 반문할 수도 있겠습니다. 그래서 뭐가 문젭니까? 할 것도 많고 바쁘고 아니면 그냥 쉬고 싶은데, 어쨌든 결과물만 잘 나오면 되는 거 아닌가요? 아뇨. 사실 생각과 인지 부하 없이는 결과물도 좋지 않습니다. MIT LAB에서 에세이의 언어적 특징을 분석했을 때 AI 그룹의 두드러지는 점은 문장 구성, 어휘 선택, 표현 방식이 정형화되고 문체가 비슷하며, 정보 출처를 밝히지 못하고 개성이 떨어지고 기계적이며 예측 가능한 스타일이라는 것이었습니다. 즉 독특하지도 않은데 출처도 명확하지 않은 글이라는 거죠.
무엇보다 AI 출력물이 '나'의 것이라고 할 수 없는 이유는 그 작동 방식이 암묵지, 블랙박스이기 때문입니다. 이 결과값이 어떻게 나왔는지 알 수 없다는 거죠. 결과를 구성하는 정보도 문제입니다. 에코 체임버/챔버echo chamber 현상이 문제라는 것은 익히 아실 겁니다. 반향실 안에 있으면 그 안의 소리만 반복되어 마치 그 소리만 유일하다고 느끼는 것처럼 편협한 사고를 만들고 팩트체크를 어렵게 만드는 현상으로 알고리즘이 대표적인 예이죠. 그런데 AI 사용에 있어 에코 체임버가 진화한 형태로 나타납니다. 왜일까요?
바로 생성형 AI, LLM, 거대 언어 모델은 수많은 데이터를 학습하고 이를 바탕으로 가능성이 높은 결과값을 확률적으로 제시하는데, 바로 이 거대 언어 모델을 만들이 위한 데이터에 알고리즘이 적용되기 때문입니다. 어떤 것이 더 상위의 내용인지는 LLM을 만드는 회사들, 주주들의 우선순위에 의해 영향을 받을 수밖에 없습니다. 작동 방식도 알 수 없으며, LLM의 출력물은 중립적이고 객관적인 결과가 아니라 데이터 큐레이션, 알고리즘 설계, 플랫폼 전략 등 복합적인 선택에 따라 형성되기 때문입니다. '나'가 직접 찾아보고 판단한 데이터가 아니라 제 3자, 기업과 투자자, 주주들의 판단 하에 그어 놓은 틀 안에서 만들어지는 결과물이기 때문에 AI로 출력된 결과물이 곧 '나'의 것이라고 할 수 없는 겁니다.
학습과 AI 활용에 대해서 응용언어학자 김선우 박사의 인터뷰에 주목해 봅시다. 김선우 박사는 'AI로 읽기'의 문제점을 '과정'을 삭제하는 것이라 지적합니다. 이는 앞선 논문에서도 마찬가지로 지적된 것이었죠. 스스로 생각하는 것, 읽고 생각하고 메모하고 요약함으로써 정보를 체화하는 과정이 있어야지만 '나'의 실력이 올라간다는 것 말입니다.
그렇기 때문에 AI가 '쓴다'고 말하기란 어렵습니다. '쓴다'기보다는 '배치'하는 것에 가깝습니다. 통계를 기반으로 A라는 단어 뒤에 올 확률이 높은 단어를 배치하기 때문에 획일화된 내용과 '평균'에 가까운 밍숭맹숭한 글이 나오게 됩니다. 그리고 흔히 쓰이는 GPT Killer같은 생성형 AI 표절 감지기 또한 LLM이 사용하는 통계와 확률을 활용하여 AI 표절률을 계산합니다. 그렇기 때문에 문장을 그대로 가져오지 않더라도, 틀이나 내용을 참조하거나 개요를 작성하는 데 사용한 후 이를 문장화하는 경우도 AI 표절률이 높게 나올 수밖에 없는 것이지요. 즉 AI 표절률이 높게 나온다면 글의 표현이나 내용, 전개가 전형적이거나 진부하다는 의미에 가깝습니다.
그러니 AI 표절률이 높게 나왔다면 표현이나 내용을 조금 더 새롭게, 다른 관점으로 시도할 수 있는 좋은 기회라고 생각하는 것은 어떨까요? 단순히 맞다 틀리다의 측면이 아니라 글의 개성이나 전형성을 검토할 수 있으니까요. 단어를 몇 개 고치거나 일부러 오타를 내서 표절률을 낮추는 것이 'AI 표절기 피하는 꿀팁'으로 공유되고 있지만, 글쎄요…… 그게 스스로에게 좋지 않다는 것은 이미 알고 있으리라 믿습니다.
김선우 박사는 학습자와 AI의 관계에 있어 굉장히 중요한 부분을 지적합니다. 바로 "현재의 인공지능 논의들은 사실상 '전문가의 입장'에서 다루어지는 것이 대다수"라는 점입니다. "전문가는 수년간 체화된 전문 지식에 더해 여러 시행착오와 다양한 경험을 '이미' 가지고 있기 때문에 인공지능을 쓸 때도 이런 암묵적 지식을 자유롭게 동원할 수 있다." 그러나 학습자는 다릅니다. "발달 과정에 있는 학습자들이 인공지능을 쓰는 것은 전혀 다른 문제다. 당장 자기 생각으로 한두 문장을 써내는 것도 힘들어하는 학생이 너무 많다. 생각하고, 탐색하고, 정리하고, 소통하고, 성찰하고, 협력하는 과정을 가르치고, 필요한 역량을 자기 몸으로 익혀야 한다"는 것이지요.
『인공지능이 가르칠 수 있다는 착각』조금만 인터넷을 뒤져 보면 'AI 잘 쓰는 법', '생산성 200% 높여주는 프롬프팅' 등의 영상이 쏟아집니다. AI에 인격을 부여한다거나 출처를 밝히라고 한다거나 두 번 생각해 보라고 한다거나 하는 내용의 프롬프팅을 공유하고 '이것만 있으면 효율이 말도 안 되게 높아진다'고 홍보하지요. 하지만 비밀의 주문 같은 프롬프팅은 위 이미지처럼 빙산의 일각에 불과합니다. 프롬프팅의 기반에는 지식과 경험, 비판적 태도, 기본 문해력이 있고, 사실 해당 능력이 갖추어진다면 굳이 유료 프롬프팅을 찾지 않아도 충분히 AI를 잘 활용할 수 있습니다.
그러니 지식과 경험을 갖춘 전문가 사용자들의 눈에는 거짓이나 맥락에 맞지 않는 말을 그럴듯하게 늘어놓는 AI의 환각hallucination이 보이니 '아직 멀었다', '반드시 확인하고 점검해야 한다', '보조적 도구로는 사용할만하다'라고 평가하는 반면 지식도 문해력도 부족한 학습자의 눈에는 마술 상자처럼 결과물을 뚝딱 내놓는 AI가 훌륭해 보이는 간극이 발생합니다. 역량을 갖추지 못하면 AI에 기대게 되는데, 역량을 갖추게 되면 AI에 기댈 필요가 없어집니다.
<스파이더맨: 홈커밍>의 이 대사가 작금의 상황에 잘 어울리는 것 같네요. 스파이더맨은 아이언맨이 업그레이드한 슈트를 입고 힘에 취해 활약하다 사고를 치고 맙니다. 그리고 슈트를 압수당하죠. 간절한 얼굴로 "전 슈트 없인 아무것도 아니에요"라고 항변하지만 아이언맨은 "슈트 없이 아무것도 아니면 더욱 가지면 안 돼"라고 말합니다. 맞습니다. AI 없이 아무것도 못 하겠다면 더욱 써서는 안 됩니다. 슈트 없이도 히어로일 수 있는 것이 진정한 히어로 아니겠나요? 여러분도 할 수 있습니다.
<스파이더맨>의 명대사도 생각해 봅시다. "큰 힘에는 큰 책임이 따른다." 맞는 말입니다. AI를 잘못 사용했을 때의 책임은 누구에게 가나요? 바로 사용자에게 갑니다. "AI가 그랬어요.", "몰랐어요"라고 말해도 어쩔 도리가 없습니다. AI로 과제를 작성했는데 거짓 자료를 활용했다거나, 없는 자료를 바탕으로 쓴 글을 그대로 제출하면 변조 혹은 위조, 학습윤리 위반으로 처리됩니다. 행동에는 책임이 따릅니다. 그 책임을 온전히 감내하는 방법은 스스로 부딪치고 부딪히며 나가는 수밖에는 없습니다.
게임을 예로 들어 볼까요. 정통 RPG 게임 하면 어떤 서사가 떠오르나요? 영웅 서사가 아무래도 대표적입니다. 용사가 마왕을 무찌르고 세계를 구하는 이야기 말이죠. 그런 세계를 상상해 봅시다. 선과 악이 명확히 구분되는 세계, 마법과 신기한 아이템이 존재하는 세계 말이죠. 자, 용사의 무기 하면 뭐가 떠오르나요? 아무래도 검일 겁니다. 목검이나 철검 같은 상점제 아이템 말고 특수 무기 같은 경우는 손에 넣었다고 순순히 굴복하지 않습니다. 주인을 선택하죠. 선과 악이 분명한 세계, 마법이 존재하는 세계, 그 세계에서 대표적인 아이템은 성검과 마검입니다.
1981년작 영화 <엑스칼리버>성검의 대표적인 원형은 아서 왕 신화에서 비롯됩니다. 간단히 말하자면 바위에 엑스칼리버라는 신비한 검이 박혀 있고, 그 검을 뽑는 자가 브리튼의 왕이 된다는 것이지요. 단순히 힘이 세면 뽑을 수 있는 것이 아니라, 자격을 갖춘 자를 자신의 주인으로 삼는다는 설정은 이후 RPG 게임 성검의 모티프가 되었지요. 성스러울 성에 칼 검자를 쓰는 성검은 아무래도 너그럽습니다. 자격 없는 자들이 와서 자신을 뽑으려고 해도 봐 줍니다. 도전자들은 조금 힘들겠지만 손 좀 털고 집으로 가면 그만입니다. 하지만 마검은 다르죠.
네이버 웹툰 <성검전설> 2화마검도 사용자를 선택합니다. 다만 자격을 갖추지 않은 자가 소유하게 되면 체력과 정신을 흡수하지요. 많은 경우 마검의 힘에 취해 자신과 주변을 해칩니다. 마검에 풀려나더라도 황폐화된 주변을 바라보며 이 모든 것이 자신의 책임임을 자각하는 것이 클리셰라고 할 수 있겠습니다. 그렇습니다. 생성형 AI는 마검입니다. 역량을 갖춘 자가 사용하면 강력한 검이 되지만 역량을 갖추지 못한 자가 사용하면 고전을 면치 못합니다. AI에 휘둘려 주체성을 잃거나 감당하지 못할 결과물을 자신의 책임으로 배출하게 되지요. 그러니 학습자가 해야 할 일은 무엇이겠나요? 레벨을 올리는 겁니다. 지식과 경험이 없는데, 문해력이 부족한데 AI의 결과물을 검토하고 진행 상황을 관리할 수 있을까요? 불가능합니다.
AI 사용을 강조하는 사람들은 말합니다. "비판적으로 사용해야 한다.", "감독자가 되어 활용해야 한다.", "문제를 파악하고 이를 프롬프팅에 적절히 적용해야 한다". 틀린 말은 아닙니다. 다만 이는 사용자를 전문가로 전제했을 때의 말이라는 것이 중요합니다. 비판적으로 사용한다는 것은 뭔가요? 감독자가 된다는 것은? 문제를 파악하는 것은? 결국 과제의 목적을 파악하고, 내용을 정리하고, 목표를 정하고, 타당한 데이터를 검토하는 능력이 갖추어져야 한다는 것입니다. 이 능력은 어떻게 갈고닦나요? 리터러시나 문해력이 전제될 겁니다. 그러면 그건 어떻게 기르나요? 다시 돌아갑니다. 어디로요? 인문학으로요.
정말입니다. 문제를 파악하고 맥락을 이해하는 능력을 기르기 위해서는 많은 텍스트를 접해야 합니다. 이 텍스트에서 주요한 것은 무엇인지 파악하는 능력, 즉 요약하는 능력, 여러 데이터를 어떻게 연결할 수 있을지 확장하여 생각하는 능력 또한 책을 비롯한 텍스트 읽기와 쓰기를 통해 신장할 수 있으니까요. 관점을 확장하거나 다른 측면에 대해 생각해볼 수 있는 능력은요? 다종다양한 사람들의 생각으로 빚어진 책을 읽으면서 성장합니다. AI에 적절한 프롬프팅을 작성하는 능력은? 쓰기 그 자체지요. 당장 자신이 무엇을 원하는지조차 언어로 구체화할 수 없는데 어떻게 AI를 잘 활용할 수 있을까요? AI에게 '거 잘 알아서 눈치껏 해 봐'라고 할 수는 없는 노릇입니다.
데이터센터에 불을 질러야 한다는 말이 아닙니다. AI를 활용하기에는 아직 시기상조라는 이야기지요. 다시 돌아가 봅시다. 이 글은 어디까지나 교육의 목표와 학습자를 염두에 두고 작성되었습니다. 교육의 목적, 수업의 목적은 학습자의 성장입니다. 회사에서는 다를 수 있을 겁니다. 좋은 결과물을 내는 것이 더 중요한 목표일 수 있지요.
하지만 교육은 아닙니다. 학습자 자체의 성장을, 그리고 교실 안에서의 평등한 성장을 전제로 합니다. 적어도 민주 사회에서는요. 누구는 GPT 무료 버전을 겨우 쓸 때 다른 누구는 온갖 유료 서비스를 섞어 가며 쓴다면 그것이 과연 공평하다고 볼 수 있을까요? 물론 AI 몇 개를 섞는다고 반드시 좋은 결과가 나오지는 않습니다. 중요한 것은 반복했듯 사용자 자체의 역량입니다. 그리고 AI는 그 편리함으로 인해 나태의 유혹에 빠지기 너무나 쉽습니다. 학습자 단계에서는 오히려 독이 되기 십상이기에, 여러분 자체의 역랑을 증진하는 것에 중점을 둘 필요가 있습니다.
그러니 AI가 없으면 졸업을 못 한다느니 하는 말은 흘려들으세요. 여러분은 그런 것 없이도 스스로 충분히 잘 할 수 있고, 진정으로 강해질 수 있습니다. 인간다움과 인간의 가치에 대해 생각하고, 나 자신의 역량을 믿고 교실에 들어서세요. 배우고 부딪히고 묻고 파고들어서 깨닫는 성취감을 느끼기를 바랍니다. 그 감각이 앞으로 맞닥뜨릴 어려움을 뚫고 지나갈 여러분 자신의 힘이 될 겁니다.
