GPT가 쓴 글인지 확인하려면
A+를 향한 생성형 AI 사용위험한 유혹
"계절학기 레포트 chat gpt로 냈음.
결과는 평점 a+ ㅋㅋㅋ"
라는 익명의 글들. 넘쳐나고 있죠.
그냥 웃어넘기기엔 이미 진행되고 있는 현실인지라. 사실 놀랄게 없었습니다.
인공지능을 활용해 과제에서 손쉽게 좋은 성적을 받는 사례가 심심치 않게 등장하고 있습니다.
이러한 현상이 단순한 '꼼수'를 넘어, 우리 교육의 근간을 흔드는 심각한 문제일 수 있다는 생각이 들지만, 한편으로는 앞으로는 인공지능을 교육 현장에서 어떻게 현명하게 사용해야할지에 대해 빠르게 고민해야 하지 않을까 싶습니다. 학생들이 '과제를 쉽게 하는 법'이나 '좋은 성적을 받는 법'에만 몰두하면서, 정작 배움을 통해 성장해야 할 공부의 방향과 목표를 상실하는 것은 아닌가 하는 우려가 있는데요.
오늘은 AI가 쓴 글을 잡아내는 탐지기를 소개하면서, 창과 방패처럼 끝없이 이어지는 기술의 대결을 살펴보고, 그 이면에 숨겨진 학생들의 욕망과 교육의 딜레마를 파헤쳐 보고자 합니다. AI 시대에 글을 쓰고 배운다는 것은 과연 무엇인지, 그 의미를 탐색하는 여정, 지금 바로 시작해보겠습니다.ㅎㅎ
창과 방패의 등장: AI 탐지기 vs. AI 탐지 방어
생성형 AI가 글을 쏟아내기 시작하자, 곧바로 이를 가려내려는 움직임이 나타났습니다. 일종의 '방패'가 등장한 셈입니다. 대표적인 예가 미국 프린스턴 대학교의 에드워드 티안(Edward Tian)이 개발한 'GPTZero'입니다.
이 프로그램은
1. 단어 선택을 기준으로, 글을 쓸 때 어떤 단어를 선택할지 얼마나 예측하기 어려운지 나타내는 '난처함(perplexity, 굳이 번역하자면 난처함 정도 될 것 같습니다. )'과
2. 문장 길이의 변화가 얼마나 급격한지를 보여주는 '파열성(burstiness)' 수준을 분석합니다. AI가 쓴 글은 사람이 쓴 글보다 복잡성이 낮고 일정한 패턴을 보이는 경향이 있다는 점에 착안한 것입니다.
하지만 방패가 등장하자, 이를 뚫으려는 '창' 역시 날카로워졌습니다. AI가 쓴 글을 사람이 쓴 것처럼 자연스럽고 매끄럽게 다듬어주는 'AI 탐지 방어' 기능이 등장한 것입니다. 국내 플랫폼인 Wrtn(뤼튼)의 '탐지 방어' 기능이 대표적입니다. AI 특유의 딱딱한 말투를 수정하여 탐지 시스템이 식별하기 어렵게 만드는 이 기술의 등장은, 본격적인 '창과 방패'의 싸움이 시작되었음을 알리는 신호탄이었습니다.
AI가 쓴 글,
과연 AI도 스스로 썼다고 생각할까?
그렇다면 이 명탐정을 자처하는 AI 탐지기들의 성능은 과연 믿을 만할까요?
기술적인 탐지 도구(GPTZero 등)들이 언어적 한계와 오탐율로 고전하는 사이, 교수님께서 이미 실험을 하신 내용을 공유하고자 합니다.
"생성형 AI에게 직접 인간의 글과 AI의 글을 구분하게 시키면 어떨까?" 하는 실험인데요. 아이러니하게도 AI는 스스로의 '동족'이 남긴 미세한 지문과 패턴을 그 어떤 알고리즘보다 날카롭게 포착해냈습니다.
출처: 연세대학교 심리과학이노베이션대학원 생성형ai의 이해 2025년 2학기 박중희 교수님 교재실험 결과는 재밌었는데요.ㅎㅎ
AI는 문장의 흐름뿐만 아니라, 글의 이면에 숨겨진 '사고의 전개 방식'을 추적하여 다음과 같은 결론을 내놓았습니다.
샘플 1: "사람이 작성한 것을 인공지능이 교정함" (판단 2)
문장은 자연스럽지만, 특정 개념(예: '시험 출제 경향 분석', '학습관리 시스템')이 반복적으로 등장하며 기계적으로 변형된 느낌을 잡아냈습니다. 논리 구조는 인간의 것이되, 문장 마무리에 AI 특유의 매끄럽지만 정형화된 패턴이 섞여 있음을 간파한 것입니다.
샘플 2: "완전히 사람이 작성함" (판단 5)
불필요한 반복이 적고 문맥이 매우 자연스럽다는 점에 주목했습니다. 특히 AI가 생성하는 일반적인 서술 방식보다 훨씬 정교하고, 동일한 내용을 다양한 방식으로 변주하며 심화시키는 '인간 특유의 사고방식'이 녹아있음을 정확히 짚어냈습니다.
출처: 연세대학교 심리과학이노베이션대학원 생성형ai의 이해 2025년 2학기 박중희 교수님 교재
이 실험을 통해 확인한 사실은 명확합니다.
AI 적응에 대한 탐지는 여전히 불명확한 영역이 존재하지만, AI는 일종의 '규칙적인 패턴'을 인식하는 데 매우 탁월하다는 점입니다.
인간이 쓴 글에는 무작위성과 고유의 호흡이 담기지만, AI가 개입하는 순간 문장은 지나치게 매끄러워지거나 특정 패턴 안으로 수렴됩니다. 탐지기는 바로 그 '지나친 완벽함'과 '반복되는 정교함'을 추적하여 AI의 그림자를 찾아냅니다.
넘쳐나는 AI 탐지기들:
누가 진짜를 가려낼까?
GPTZero의 이러한 한계는 특별한 사례가 아닙니다.
위의 실험처럼 AI를 활용한 분석이 정교한 통찰을 제공하긴 하지만, 시중에 나와 있는 자동 탐지 도구들은 여전히 한계가 존재합니다. 저마다의 알고리즘으로 무장한 도구들이 매일같이 쏟아지지만, '창'과 '방패'의 싸움에서 완벽한 승자는 없습니다. 즉, 현재 시장에는 저마다의 알고리즘으로 무장한 수많은 탐지기들이 출시되어 있지만, 완벽한 명탐정은 아직 등장하지 않았습니다.일단 AI가 쓴 글인지 찾아내는 사이트들을 공유드리면 다음과 같습니다.
(하지만 모르죠, 곧 등장할지도..ㅎㅎ)
GPTZero: https://gptzero.me/
DetectGPT: https://detectgpt.com/
Originality.ai: https://originality.ai/
CudekAI: https://www.cudekai.com/
Smodin: https://smodin.io/
Wordvice.ai: https://wordvice.ai/ko/tools/plagiarism-checker
하지만 앞선 실험 결과에서 보았듯이, 이 도구들의 판별 능력에는 명백한 한계가 존재합니다. 특히 한국어 지원이 미흡하거나, 인간과 AI의 협업, 그리고 '탐지 방어' 기술 앞에서는 무력해지는 경우가 많습니다. 따라서 "완벽한 탐지는 불가능하므로 과도한 신뢰는 금물"이라는 점을 반드시 기억해야 합니다.
인지과학자의 시선:
우리는 왜 이 줄다리기에 목을 매는가?
이 기술 경쟁은 단순히 과제를 편하게 하려는 학생들의 꼼수에서만 비롯된 것이 아닙니다. 일부 기업이나 기관에서 자기소개서의 'AI 표절률'을 평가 기준으로 삼기 시작하면서, 학생들은 좋은 내용을 쓰고도 탐지기에 걸릴까 봐 불안해하는, 또 다른 차원의 압박에 직면하게 되었습니다.
그리고 AI가 쓴 글을 인간의 것처럼 '세탁'해주는 탐지 방어 기술의 활용은 여러 부작용을 낳을 수 있습니다.
윤리적 문제 및 신뢰성 저하: 누가 진짜 저자인지 불분명해지면서 학문적, 사회적 신뢰 시스템이 붕괴될 수 있습니다.
부정확한 정보의 전파: AI가 생성한 그럴듯한 거짓 정보(환각, Hallucination)가 인간의 글인 것처럼 포장되어 널리 퍼질 위험이 있습니다.
창의성 저하: 학생들이 스스로 생각하고 글을 쓰는 고통스러운 과정을 회피하게 만들어, 비판적 사고력과 창의성의 발달을 저해합니다.
저작권 등 법적 문제: AI 학습에 사용된 원본 데이터의 저작권을 침해하거나, AI 생성물의 저작권 귀속 문제로 인한 법적 분쟁이 발생할 수 있습니다.
결국 'AI 탐지 방어'와 같은 기술은 '과정을 건너뛰고 결과만 얻고 싶다'는 욕망이 만들어낸 시장의 산물입니다. 하지만 그 과정에서 우리는 무엇을 얻고, 또 무엇을 잃게 될까요?
이것이 교육의 본질적 목표와 어떻게 충돌하는지에 대한 깊은 성찰이 필요한 시점입니다.
탐지를 넘어,
새로운 학습을 향하여
현재 기준으로 아직까지 대학가는 AI를 활용한 과제 제출 문제로 혼란을 겪고 있으며, 아직 명확한 방침을 정한 곳은 거의 없습니다.
(어서 정해져야할텐데 말이죠.ㅎㅎ)
그럼 어찌해야 할까요?
저는 그 답이 '탐지'가 아닌 '활용'에 있다고 믿습니다.
이제 AI를 단순히 답을 베끼는 부정행위 도구가 아니라, 학습의 질을 높이는 강력한 '학습 보조 도구'로 바라보는 관점의 전환이 필요합니다. 자료 조사와 분석을 돕는 'Gemini Deep Research' 기능처럼, 복잡한 주제에 대한 심층 보고서를 생성하여 연구의 시작점을 제공하는 AI는 방대한 정보 속에서 길을 찾고, 막막한 아이디어를 확장하며, 글의 초안을 잡는 데 훌륭한 파트너가 될 수 있습니다.
이러한 변화는 학생과 교육자 모두에게 새로운 과제를 던져줍니다.
학생들은 '어떻게 하면 AI를 들키지 않을까'가 아니라 '어떻게 하면 AI를 나의 성장을 위한 발판으로 삼을 수 있을까'를 고민해야 합니다.
교육자들은 AI가 생성한 결과물 자체를 평가하는 기존의 방식에서 벗어나, AI를 활용하는 과정과 그를 통해 얻은 학생의 통찰력을 평가하는 새로운 평가 방식과 교육 목표를 설정해야 할 것입니다.
AI 탐지를 위한 기술 경쟁의 소모적인 줄다리기와 AI는 안돼!라는 시선은 이 시대에 사는 사람들을 도태시킬 뿐입니다. 창과 방패를 내려놓는 대신, AI라는 도구를 어떻게 교육의 본질적 목표 달성을 위해 활용할 것인지에 대한 지혜로운 논의를 어서 가이드라인화 해야하지 않을까요?
글쓴이 카리나는..
글로벌 PR과 콘텐츠 마케팅 분야에서 활동해 온 12년 차 홍보/콘텐츠 마케터입니다. IT, 헬스케어, 유통 산업 전반에서 브랜드 론칭과 리드 전환에 전문성이 있습니다. 스타트업부터 글로벌 기업까지 다양한 조직의 성장을 함께 합니다.
현재 초기 스타트업들의 홍보를 맡은 PR 디렉터이자, 연세대학교 심리과학 이노베이션 대학원 사회혁신 심리트랙에서 심리학을 공부하며, “일하는 마음”의 구조와 번아웃, 회복에 대해 탐구하고 있습니다. PR 전문가로서의 경험과 심리학적 시각을 접목해, 직장인의 정신건강과 건강한 조직문화에 관한 이야기를 글과 영상으로 전하려 합니다.