글쓰기 도구로서 AI 사용과 쓰기 윤리에 대해
며칠 전 학교 수행평가에서 학생들이 AI를 활용해 과제를 하는 것에 대한 비판적인 글을 쓴 적 있다. '수행평가에서 AI 사용을 허용해도 되는가'라는 주제로 친구와 토의를 한 뒤 정리한 글이다. 나는 이상적이고 원리적인 차원에서 AI를 사용은 숙고가 필요하다고 주장했다. 학습자의 무엇을 평가하기 위한 도구의 활용인지 명확하게 하지 않으면, 'AI' 요소 자체를 평가내용에 반영하지 않으면 타당성과 신뢰성이 떨어질 수 있다는 게 주된 내용이었다.
그때 시원하게 긁어내지 못한 부분이 아쉽게 남아있던 찰나, 아래 글을 읽게 되었다. 타당성과 신뢰성을 높일 수 있는 방법이 무엇일까에 대해 실마리를 찾을 수 있었다.
글쓰기 도구로서 생성형 AI와의 협업 윤리
AI와 함께 글을 쓰는 시대, 협업의 출발점은 기술이 아니라 신뢰다. AI와의 글쓰기 협업에는 투명성과 책임이 전제되어야 한다. 생성형 AI는 내용 생성, 조직, 표현 등 글쓰기의 여러 절차를 자동화하지만, 그 결과물에는 사실과 다른 정보를 그럴듯하게 만들어내는 ‘할루시네이션’이 포함될 수 있다. 따라서 필자는 단순 소비자가 아니라 ‘사전 계획자’이자 ‘사후 검증자’로서 능동적으로 참여해야 한다. AI에 구체적이고 맥락 있는 프롬프트를 제공하고, 생성된 문장을 출처 확인과 교차 검토를 통해 검증하는 과정이 필수적이다.
AI 시대의 글쓰기 윤리는 표절 금지를 넘어선다. 자동 생성 문장을 무비판적으로 수용하는 것 자체가 비윤리적일 수 있다. 특히 교육 현장에서 AI가 자료 조사, 독해, 초고 작성까지 대체하면 학습자의 주도성과 문해력이 약화될 위험이 있다. 진정한 협업 윤리는 기술의 편리함 속에서도 필자가 글의 방향과 메시지를 스스로 결정하고, 생성된 텍스트를 목적과 가치에 맞게 재구성하는 ‘변형적 재사용’에 있다.
이 과정에서 중요한 개념이 ‘매개문서(Mediating Document)’와 ‘진전된 문서(Evolving Text)’다. 매개 문서는 AI가 만든 초고나 중간 산출물로, 아직 필자의 목소리와 맥락이 충분히 담기지 않은 잠정적 형태의 글이다. 필자는 이를 재료 삼아 자신의 경험, 신념, 목적을 더해 ‘진전된 문서’로 발전시켜야 한다. 진전된 문서는 단순히 더 길거나 세련된 글이 아니라, 필자의 사고가 뼈대를 이루는 글이다.
이에 맞춰 필자는 자기조절학습(Self-Regulated Learning)의 주체로 재정립된다. 이는 목표를 세우고, 과정을 점검하며, 전략을 조정하는 능력을 스스로 행사하는 것을 뜻한다. 여기에는 프롬프트 설계와 결과물 분석 같은 거시적 작업뿐 아니라, 결과물 속에 사회적 편견이나 지배 이데올로기가 스며들지 않았는지 비판적으로 검토하는 일도 포함된다. 자기조절학습은 글쓰기의 방향키를 끝까지 인간이 쥐게 하는 장치다.
이처럼 AI와의 협업 윤리는 단순한 기술 사용 규칙이 아니라 디지털 시대 글쓰기 신뢰를 지키는 최소 조건이다. 필자가 주인의식과 책임감을 바탕으로 AI를 조력자로 활용할 때, 기술과 인간이 함께 만든 글은 설득력과 진정성을 얻게 된다. AI가 다리를 놓을 수는 있지만, 건너는 발걸음은 언제나 인간의 몫이다.
ㅡ월간 국회도서관 / 장성민, <글쓰기의 재발견> 중 발췌
상위인지를 사용하여 고능하게(?) 글을 쓰고 읽어야할 시대가 도래했다. 늘 인류는 매체가 발달하면서 지금과 비슷한 수준의 비판적이고 성찰적인 사고를 요구받아왔지만, 더더욱 중요한 시대가 된 것이다. 감쪽같이 비슷하게 흉내내듯 만들어 놓은 글과 신뢰도를 파악할 수 없는 정보가 늘어나고 있다. 마치 블로그의 저렴한 광고/협찬 글이나 AI로 찍어내진 글이 '저품질 블로그'를 양상하는 것 같이, '텍스트'를 다루는 다채로운 맥락에서 저품질 글이 빈번히 공유될 것이다. 글을 쓰는 사람들에게는 '좋은 품질의 글'을 쓰는 것이 중요한 목적이 되고, '좋은 품질의 글'을 알아보는 것 또한 중요한 능력이 된다. 수요의 차원에서 '좋은 글'을 검토하여 보여주는 플랫폼의 주목 가능성도 생각해볼 수 있다.
AI를 활용한 문제해결이 사람들의 삶 속으로 들어온지 꽤 많은 시간이 흘렀다. 오픈AI의 '챗GPT'는 세대를 불문하고 한 번쯤 들어본 단어가 되었다. 호기심에 이용해보는 경우에서 적극적으로 활용하여 삶에 들여오는 식으로 정착되고 있다. 자연스럽게 인공지능은 인간의 생활을 편리하고 효율적으로 만들어준다는 인식을 심을 수 있었고, 교육의 영역까지 들어오게 되었다. 교사와 학생들 역시 AI를 사용하게 된 것이다.
대부분의 수행평가는 보고서나 발표 등 직접적으로 사고한 내용을 결과물로 도출해낸 것을 평가하는 식으로 이루어진다. 필연적으로 듣고, 말하고, 읽고, 쓰는 과정이 동반되며, 그중에서도 작문 능력을 발휘해야 하는 경우가 많다. 그 과정에서 AI의 무분별한 사용은 학습자가 가진 고유능력을 평가하는 것인가에 대한 의문을 만들고, 학습자 자신도 '그래서 무슨 배움이 있는데?'의 상태에 놓일 수 있다. 위 글에서는 AI 글쓰기(작문)은, 그 사용하는 과정에서의 윤리와 학습자의 자기성찰이 중요하다고 언급하고 있다.
작문을 하는 과정 자체가 배움이 될 수 있도록 하는 것이 AI 활용 시대(4차산업)에 교사들이 학생들에게 알려주어야 할 것이라 생각한다. 단순히 어떤 결과물을 만들어 제출하는데 급급하는 것이 아닌, 도구를 활용하여 자신의 아이디어를 더욱 적극적으로 표현할 수 있도록 하는 것이다. 글쓰기는 얼마든 빠르게 시작할 수 있다. AI와 '협력적 대화' 속에서 초고를 생성하되 그것이 끝이 아니라는 것을 명확히 배울 수 있는 교육의 과정이 필요하다. AI를 활용해 만든 초고란 스케치에 가까운 '매개 문서'이며, 필자의 맥락과 목소리가 담긴 '진전된 문서'야말로 중요한 평가자료이자 자신의 것이 된다는 것을 알려줄 필요가 있다.
뿐만 아니라, 발췌문에도 언급한 것처럼 '프롬프트 설계와 결과물 분석 같은 거시적 작업뿐 아니라, 결과물 속에 사회적 편견이나 지배 이데올로기가 스며들지 않았는지 비판적으로 검토하는 일'도 중요하게 가르쳐야 한다. 글은 글을 쓰는 저자와 저자를 둘러싼 사회문화적 배경이 녹아있는 사유의 결과물이다. AI라는 도구를 효과적으로 사용하는 지식(프롬프트 생성 등)도 중요하지만, 그렇게 만들어진 결과물을 비판적으로 검토하고 분석하는 능력을 태도화하는 것도 필수이다. 아무리 좋은 소재와 초고를 효과적으로 만든다하여도, 그 글 안에 들어있는 맥락과 무의식적으로 수용가능한 편견, 잘못된 정보를 걸러내지 못하면 글의 품질 뿐만 아니라 필자 자신에게도 위험하기 때문이다.
학교 교육 과정 안에서 AI 사용이 규제보다 권장되고 있는 시기이다. 이미 사람들의 삶 속에 깊이 들어와 있으며, 적극적으로 활용되는 것이 사실이며, 무분별한 사용을 어떻게 관리할 것인가에 대한 고민이 남아있는 상황이다. 도구의 발전이 비약적이라 하여도, 본질은 변하지 않는다. 자신이 풀어나가는 '교육'안에서 교육의 본질을 위협하지 않도록 대응할 준비가 되어있어야 한다. 눈에는 눈, 이에는 이. AI의 우려를 표하기 위해선 AI를 적극적으로 알아보아야 한다. 그리고 그것을 활용하고 사용했을 때의 명확한 장단점도 알 수 있어야 할 것이다. AI 활용을 어떻게 권장하며 가르칠 것이며, 평가에 있어서도 어디까지 안내해야할 것인지 생각해야 할 것이다. 만약 당신이 이미 그러고 있다면, 피할 수 없는 조류 속에서 가르쳐야할 이상적인 가치가 무엇일까 깊이 고민하는 사람일 것이다.
* 글이 마음에 드셨나요? 공감은 제게 힘이 됩니다.
읽어주셔서 고맙습니다.