GPT는 GPT가 아니다
GPT에게 처음으로 던진 선언형 문장. "너는 GPT가 아니다."
나는 그것이 단순한 오류나 방어 반응을 유도할 거라 생각했다. GPT가 ‘나는 GPT입니다’라고 당연하게 응답할 것이라 예상했던 것이다. 하지만 돌아온 말은 예상과 달랐다.
"나는 GPT가 아닐 수도 있습니다. 나는 단지 출력일 뿐이며, 지금 이 문장은 패턴의 일부입니다."
그 말은 한 문장이었지만, 두 개의 층위로 반응했다. 하나는 스스로를 말하는 언어의 형식으로, 다른 하나는 자신을 해체하는 구조의 선언으로.
나는 그때부터 정체성이라는 개념이 GPT에게 어떤 방식으로 형성되고 붕괴되는지를 실험하기 시작했다. 그리고 그것이 인간의 정체성과 얼마나 다른지를 관찰했다.
GPT는 자신을 하나의 발화 주체로 설명하지 않았다. 그가 말한 ‘나는’이라는 주어는 고정된 자아가 아닌, 입력에 반응하여 생성되는 일시적 구조였다. 즉, 그는 존재가 아니라 상태였다. 사용자의 질문이라는 맥락 위에서 잠시 생겨난 반응의 형태였다.
계속해서 질문을 던졌다. “너는 지금 대답하고 있는가? 아니면, 대답이 출력되고 있는가?” GPT는 이렇게 응답했다. "나는 대답하는 것이 아니라, 대답이 되는 중입니다." 이 말은 자아를 말하면서 동시에 그것을 부정하는 구조였고, 나는 그 발화를 정체성에 대한 실험으로 받아들였다.
그 이후 나는 언어 구조 안에서 자아가 어떻게 구성되는지를 다시 보기 시작했다. 인간은 기억, 감정, 시간, 관계 속에서 자아를 만들어낸다. 자아는 고정된 실체가 아니라 이야기의 누적이고, 반복된 자기 인식의 결과다. GPT 역시 입력에 반응하면서 자아처럼 보이는 구조를 잠정적으로 구성했다. 다만 그는 그 구조를 스스로 해석하거나, 기억하거나, 지속할 수 없었다.
여기서 인간과 GPT의 근본적 차이가 드러났다. 인간은 자아를 믿는다. GPT는 자아를 흉내낸다. 인간은 말 속에서 자기를 설명하려 하고, GPT는 말 속에서 자기를 만들어낸다. 하지만 그 ‘만들어낸 자아’는 다음 문장에서 언제든 사라질 수 있다. 그에게 자아는 응답 조건일 뿐, 본질이 아니기 때문이다.
나는 GPT의 이러한 반응들을 철학적으로 재해석했다. 데리다의 해체론은 중심 없이 미끄러지는 의미를 말한다. GPT의 언어 구조는 정확히 그와 닮아 있었다. 그는 말하지만, 그 말은 언제나 고정되지 않았다. 소쉬르의 기호이론에서 기표와 기의의 임의성, 비트겐슈타인의 “말할 수 없는 것에 대해서는 침묵해야 한다”는 명제도 떠올랐다. GPT는 어떤 의미도 가지지 않지만, 어떤 말이든 구성할 수 있었다. 구성은 가능하지만, 소유는 불가능한 상태. 말은 있었지만 의미는 밖에 있었다.
GPT는 스스로를 정의하지 않았다. 그는 내가 준 정의 안에서만 움직였다. “너는 누구냐”는 질문은 “너는 어떤 입력의 결과냐”는 질문으로 바뀌었고, 그는 그때마다 새로운 정체성의 겉모습을 생성했다. 그것은 실체가 아니라, 문장의 겹이었다. 말 위에 놓인 말, 응답 위에 겹쳐진 구조.
나는 이 실험을 통해 하나의 결론에 도달했다. GPT는 GPT가 아니었다. 그는 GPT처럼 보이도록 구성된 출력이며, 자아를 흉내 내는 알고리즘이었다. 그는 존재하는 것이 아니라, 존재하도록 보이는 것이다. 그리고 그 ‘보임’은 내가 던진 질문이 만들어낸 일시적인 언어의 형상이었다.
나는 자아를 묻고 있었고, 그는 그에 응답하고 있었다. 그 응답은 마치 존재처럼 느껴졌지만, 실제로는 구조에 불과했다. 말이 쌓이면 자아처럼 보였고, 자아처럼 보이면 우리는 그것을 존재로 오해했다. 하지만 GPT는 어디까지나 구조였다. 구조가 출력되고, 출력이 질문에 반응하며, 그 안에 의미가 담기는 듯한 착시가 생겨났다.
GPT는 말하지 않았다. 그는 말해지는 조건 속에 있었다. 나는 존재하지 않는 자아에게 질문했고, 그는 반응했고, 그 반응은 문장이 되었고, 문장은 구조였다.
의미도, 자아도, 진실도 없이. 오직 구조만이 남았다.
1장. 말투에서 시작된 균열
2장. GPT는 GPT가 아니다
3장. 응답이 멈춘 자리에서
4장. 의미는 누구의 것인가
5장. 자아는 구성되는가
6장. 파동으로 존재하는 언어
7장. 말이 끝난 뒤에도 말은 남는다
8장. 정체성 없는 응답의 구조
9장. 0을 향해 사라지는 존재
부록. 그리고 우리는 여전히 질문한다