나는 누가 쓴 문장인가
AI 부정 행위 사건이 되묻는 인간의 경계
예상된 낯설음
학생들이 시험 도중 AI를 활용하는 '부정 행위'를 저질렀다는 소식이 들립니다.
언젠가는 터질 일이라 생각했음에도 판단을 내리기 어려운 사건입니다.
새로운 도구를 손에 쥔 아이가 그것을 어떻게 다뤄야 할지 몰라 벌어진 사고를 단순히 규칙 위반이라 할 수 없듯이, 부정행위라고 단언하기엔 복잡한 생각이 얽혀 있습니다.
새로운 기술이 등장할 때마다 인간은 늘 이런 낯섦을 경험해왔다는 점에서, 오히려 우리가 오래전부터 반복해온 질문들이 다시 모습을 드러내는 순간처럼 보였습니다.
반복되는 장면들
기원전 4세기, 소크라테스는 문자가 기억을 약화시키고 진정한 대화를 대체할 것이라 우려했습니다.
15세기 중반, 구텐베르크의 인쇄술이 성경을 대량 보급하자 지식 해석의 권위가 붕괴했습니다. 한편으로 그 과정에서 '저자'라는 개념이 생겨났습니다. 필사본 시대에는 텍스트의 주인이 모호했지만, 인쇄술 이후 누가 이 생각을 했는지가 중요해졌거든요.
산업혁명 시기, 러다이트 운동에서 숙련 노동자들이 기계들을 파괴하면서까지 두려워한 것은, 단순히 일자리가 아니었습니다. '할 줄 안다'는 것의 의미 자체가 달라지는 순간이었죠.
패턴이 보입니다.
새로운 기술이 등장할 때마다, 인간은 자신이 당연하게 여겼던 것들을 다시 물어야 했습니다. 안다는 것은 무엇인가? 지식은 누구의 것인가? 인간의 가치는 어디에 있는가?
그리고 그 질문은 기술이 아니라 인간을 향해 있었습니다.
이번은 다르다
사고를 대행하는 최초의 기술
그런데 지금의 AI는 과거의 기술들과 어떤 차이가 있을까요?
기계는 우리의 근육을 대신했습니다. 망원경은 감각을 확장했죠. 책은 기억을 외부에 저장했고요.
하지만 AI는 사고의 형식 자체를 생성합니다.
이건 좀 다른 차원의 이야기입니다.
언어모델은 패턴을 인식하고 생성하는 도구입니다.
그런데 흥미로운 건, 우리가 '사고'라고 부르는 것의 상당 부분이 바로 이런 패턴 인식과 생성이라는 점이죠.
우리는 문장을 만들 때 문법 규칙을 의식적으로 떠올리지 않습니다.
그냥 자연스럽게 흘러나오죠.
마치 AI가 다음 단어를 예측하듯이요.
그렇다면 AI가 사고를 대신하는 것인지, 아니면 사고의 본질이 원래 그런 것이었는지 혼란스러워집니다.
철학자 앤디 클라크는 '확장된 마음'이라는 개념을 제시했습니다.
인간의 인지는 본래 두개골 안에 갇혀 있지 않다는 겁니다.
우리는 늘 외부 도구와 결합해서 생각해왔습니다.
메모지, 계산기, 지도, 책... 모두 우리 사고의 일부였던 셈이죠.
그렇다면 AI도 그저 또 하나의 인지적 도구일 뿐일까요?
사고의 외주화가 남기는 것
하지만 뭔가 다른 느낌이 듭니다.
계산기는 산술을 대신하지만, 우리는 여전히 어떤 계산이 필요한지 알고 있습니다.
지도는 방향을 알려주지만, 우리는 어디로 가고 싶은지 결정하죠.
그런데 AI가 문장을 생성할 때, 그 경계가 흐릿해집니다.
"이 문제를 어떻게 풀어야 할까?"라는 질문을 AI에게 던졌을 때, 돌아오는 답은 단순한 정보가 아닙니다.
그것은 이미 하나의 사고 과정이 담긴 결과물이죠.
버나드 스티글러는 기술을 '제3의 기억'이라고 불렀습니다.
유전적 기억(본능)도 아니고, 개인적 기억(경험)도 아닌, 인류가 외부에 축적해온 기억이라는 거죠.
스티글러는 기술이 인간을 약화시키는 동시에 가능하게 만든다고 말했습니다.
문자는 기억을 약화시켰지만, 동시에 문명을 가능하게 했죠.
이런 양가성이 기술의 본질입니다.
AI도 마찬가지일지 모릅니다.
사고를 외주화하면서 우리는 무언가를 잃지만, 동시에 무언가를 얻게 되는 거죠.
무엇을 잃고 무엇을 얻게 될지, 우리는 아직 그 답을 정확히 모릅니다.
빗자루가 멈추지 않을 때
마술사의 제자
괴테의 시 「마술사의 제자」에는 인상적인 장면이 나옵니다.
스승이 없는 사이 제자가 주문을 흉내 내어 빗자루에게 물을 길어 오라고 명령하죠.
빗자루는 그 명령을 충실히 수행합니다.
너무 충실하게요.
멈추는 주문을 모르는 제자는 물에 빠져 죽을 지경이 되자, 당황합니다.
빗자루를 도끼로 쪼개버리지만, 조각들은 다시 살아나 물을 길어오기 시작합니다.
제자가 물에 빠져 죽으려는 찰나, 스승 마법사가 돌아와서 겨우 사태를 진정시킵니다.
이 이야기를 단순히 "기술을 통제해야 한다"는 교훈으로만 읽기에는 아쉬운 지점이 있습니다.
오히려 기술의 능력과 인간의 이해 사이에 생기는 비대칭, 그 어긋남의 순간을 포착하고 있는 거 아닐까요?
통제가 아닌 조율
제자의 문제는 빗자루를 만든 게 아니었습니다.
빗자루를 조율할 줄 몰랐다는 것이었죠.
명령을 내릴 수는 있었지만, 멈출 수는 없었습니다.
시작은 할 수 있었지만, 끝을 알지 못했죠.
지금 우리가 AI 앞에서 느끼는 낯섦도 비슷하지 않을까요?
AI는 우리가 시킨 대로 아주 잘 수행합니다.
때로는 너무 잘 수행해서 우리가 당황할 정도로요.
"이 문제를 풀어줘"라고 하면 답을 줍니다.
"이 글을 써줘"라고 하면 글을 씁니다.
"이 코드를 완성해줘"라고 하면 코드를 완성하죠.
하지만 우리는 때때로 멈출 줄을 모릅니다.
어디까지가 AI의 도움이고, 어디서부터가 나의 사고인지 경계도 흐릿해집니다.
문제는 도구의 능력 그 자체라기보다, 도구와 인간 사이의 조율이 아직 충분히 이뤄지지 않았다는 점일지도 모릅니다.
그리고 그 조율은 기술적 문제가 아니라 존재론적 질문처럼 느껴집니다.
나는 무엇인가?
나의 사고는 어디에서 시작되는가?
타자에 의존할 때 나는 어떤 존재가 되는가?
신화가 던지는 질문들
프로메테우스의 불
그리스 신화의 프로메테우스는 인간에게 불을 가져다주었습니다.
제우스의 질서에 도전한 행위였죠.
불은 인간에게 새로운 능력을 주었지만, 그 능력은 재앙과 축복의 양면성을 가지고 있었습니다.
기술은 늘 이런 역설적 힘을 가져왔습니다.
위협하는 동시에 가능성을 열어주는 것이죠.
불은 요리를 가능하게 했지만 화재도 일으켰습니다.
도구는 사냥을 쉽게 만들었지만 전쟁 무기도 되었죠.
문자는 지식을 보존했지만 권력의 도구도 되었고요.
AI도 마찬가지입니다.
우리는 불안하면서도 기대하고, 거부하고 싶으면서도 의존하게 됩니다.
프로메테우스가 인간에게 준 게 '불'이 다가 아니었습니다.
인간에게 '앞을 내다보는 능력'도 주었다고 하죠.
미래를 예측하고, 계획하고, 대비하는 능력이요.
하지만 그와 동시에 인간은 '맹목적 희망'도 가지게 되었습니다.
불확실한 미래 앞에서도 계속 나아가는 힘이죠.
AI 시대에도 우리는 이 두 가지를 모두 필요로 합니다.
예측하는 능력과 희망하는 용기를요.
아라크네의 변신
아라크네는 지상 최고의 직조 능력을 가진 인간이었습니다.
아테나와 경쟁했다가 신의 영역을 침범했다는 이유로 벌을 받아 거미가 되었습니다.
벌이었지만 동시에 변환이기도 합니다.
새로운 존재 형태로 거듭난 거죠.
아라크네는 거미가 된 후에도 여전히 베를 짰습니다.
거미줄을 짜는 것으로요.
능력은 사라지지 않았습니다. 다만 형태가 바뀌었을 뿐이죠.
AI가 인간의 사고 영역을 모방할 때, 아라크네의 이야기를 떠올리게 됩니다.
능력의 경계가 흔들리는 순간, 우리는 새로운 존재 형태를 맞이하게 되는 건 아닐까요?
인간이 AI와 결합할 때, 우리는 여전히 사고하지만 그 형태가 달라질 수 있습니다.
마치 아라크네가 여전히 베를 짜지만 거미줄로 짜게 된 것처럼요.
문제는 그 변화를 어떻게 받아들이느냐입니다.
인간을 다시 묻다
사고란 무엇인가
이 모든 장면들이 결국 우리에게 묻습니다.
사고란 무엇인가?
오랫동안 우리는 사고를 '내면의 활동'으로 생각해왔습니다.
두개골 안에서 일어나는 뭔가 신비로운 과정이라고요.
하지만 철학자 빌렘 플루서는 다르게 봤습니다.
그는 사고를 "기호를 다루는 행위"라고 정의했죠.
우리는 언어 없이 생각할 수 있을까요?
이미지 없이 상상할 수 있을까요?
개념 없이 이해할 수 있을까요?
사고는 항상 무언가를 '통해서' 일어납니다.
언어를 통해, 이미지를 통해, 기호를 통해서요.
그렇다면 AI도 우리가 사고하는 '매체' 중 하나일 수 있습니다.
마치 종이와 연필이 우리의 수학적 사고를 가능하게 하듯이요.
'내 생각'의 경계
그렇다면 '내 생각'과 '타자의 생각'은 무엇으로 구분되는 걸까요?
우리는 책을 읽을 때 저자의 생각을 받아들입니다.
대화할 때 상대의 관점을 이해하죠.
선생님에게 배울 때 그의 지식을 내면화합니다.
그 모든 순간, 우리는 타자의 사고를 거쳐서 생각하고 있습니다.
그럼에도 우리는 그것을 '내 생각'이라고 부릅니다.
이처럼 '내 생각'이란 완전히 고립된 것이 아니라, 수많은 타자들과의 대화 속에서 형성되는 것일지 모릅니다.
철학자 미하일 바흐친은 "모든 말은 응답이다"라고 했습니다.
우리의 모든 사고는 이미 누군가의 말에 대한 응답이라는 거죠.
그렇다면 AI와의 대화도 그저 또 하나의 응답 관계일 수 있습니다.
다만 그 타자가 인간이 아닌 기계라는 점이 다를 뿐이죠.
타자를 통한 자기 이해
타자를 만날 때 우리는 스스로를 더 잘 이해하게 됩니다.
다른 문화를 접할 때 나의 문화가 보입니다.
다른 언어를 배울 때 모국어의 구조가 보이죠.
다른 관점을 들을 때 나의 편견이 보입니다.
AI도 마찬가지입니다.
AI와 상호작용하면서, 우리는 사고가 무엇인지 더 명확히 알게 됩니다.
AI가 할 수 없는 것을 보면서, 인간 고유의 영역이 무엇인지 발견하죠.
AI가 할 수 있는 것을 보면서, 우리가 당연시했던 것들을 재평가하게 됩니다.
AI라는 거울 앞에서, 우리는 인간을 다시 보게 되는 거죠.
나는 지금 무엇을 하고 있는가
메타적 순간
사실, 저는 지금 이 글을 AI와 함께 쓰고 있습니다.
저는 생각의 방향을 잡고, 문장의 흐름을 조율하고, 최종적으로 선택합니다.
그 과정에서 AI는 제 사고의 속도를 높여주고, 표현의 가능성을 넓혀주고, 때로는 제가 미처 생각하지 못한 연결고리를 제시합니다.
이것이 순수하게 '제' 글일까요?
아니면 AI가 쓴 글일까요?
이 질문 자체가 이미 잘못된 구도일지 모릅니다.
의존의 재발견
앤디 클라크는 인간 인지가 본래 외부 환경과 지극히 밀착되어 이뤄진다고 말했습니다.
우리는 늘 무언가에 의존해서 생각해왔어요.
책을 읽으며, 대화를 나누며, 메모를 하며, 계산기를 사용하며 생각하죠.
작가는 종이 없이 글을 쓸 수 있을까요?
수학자는 기호 없이 증명할 수 있을까요?
음악가는 악기 없이 작곡할 수 있을까요?
우리의 능력은 항상 도구와 결합되어 있었습니다.
AI는 이 의존의 방식을 더 명확하게 가시화한 것일 뿐인지 모릅니다.
다만 그 의존이 더 깊어지고, 더 복잡해지고, 더 모호해졌을 뿐이죠.
새로운 질문들
하지만 동시에, 이 경험은 새로운 질문을 던집니다.
의존의 정도가 커질 때, 사고의 주체성은 어떻게 유지되는가?
타자가 나의 사고를 대신할 때, 나는 무엇을 하게 되는가?
AI가 문장을 생성할 때, 나는 무엇을 선택하는 것인가?
그 선택의 기준은 어디에서 오는가?
이런 질문들은 답하기 어렵습니다.
하지만 바로 그 어려움이 중요한지 모릅니다.
질문을 품고 있다는 것, 그 자체가 인간적인 태도일 수 있으니까요.
거울이 비추는 것
강의실의 그 사건은 해결해야 할 문제가 아니라, 오래된 질문이 다시 모습을 드러내는 순간일지 모릅니다. 기술은 계속 등장했고, 인간은 변화했으며, 질문은 늘 반복되어 왔으니까요.
AI라는 거울 앞에서 우리가 느끼는 낯섦은, 사실 우리 자신에 대한 낯섦입니다. 사고란 무엇인지, 지식이란 무엇인지, 나란 존재가 무엇인지 다시 묻게 되는 거죠.
거울은 판단하지 않습니다. 우리가 보게 되는 것은, 그 거울에 비친 '나'라는 질문 그 자체입니다.
어떤 방향으로 흘러갈지는 알 수 없습니다. 답을 찾는 대신, 우리는 그저 물어야 할 뿐입니다.
나는 누구인가? 나의 사고는 무엇인가? 이 변화 속에서, 여전히 '나'라고 부를 수 있는 것은 무엇인가?
